Odporność w erze sztucznej inteligencji

Misją Fundacji OpenAI jest zapewnienie, aby ogólna sztuczna inteligencja przynosiła korzyści całej ludzkości.

Dokładamy nieustannych starań, aby dotrzymać kroku dynamicznemu rozwojowi sztucznej inteligencji. W kwietniu Fundacja ogłosiła⁠ przyznanie pierwszych dotacji o wartości 100 milionów dolarów w obszarach nauk przyrodniczych i zwalczania chorób, których celem jest profilaktyka i leczenie schorzeń takich jak choroba Alzheimera dzięki zaawansowanej sztucznej inteligencji. W zeszłym tygodniu ogłosiliśmy⁠ nasz program o nazwie „Miejsca pracy i przyszłość gospodarcza”, który ma pomóc nam zrozumieć i ukształtować znaczenie pracy i dobrobytu gospodarczego dla przyszłych pokoleń.

Dzisiaj rozwijamy naszą wizję kolejnego dużego programu – chcemy zadbać o to, aby w miarę rozwoju sztucznej inteligencji społeczeństwo uczyło się wykorzystywać jej możliwości w równie szybkim tempie. Nazywamy to odpornością AI – jest to podejście ekosystemowe niezbędne do ograniczenia zagrożeń związanych ze sztuczną inteligencją, dzięki któremu społeczeństwo jest w stanie w pełni czerpać z niej korzyści.

Nasza praca jest już w toku. W ciągu zaledwie kilku miesięcy od rozpoczęcia naszej działalności Fundacja finalizuje przyznanie dotacji o łącznej wartości ponad 130 milionów dolarów dla różnych organizacji w ramach programu „Odporność AI”. Informacje na ten temat zostaną podane do wiadomości publicznej w najbliższym czasie, a wkrótce pojawią się kolejne.^1⁠

Wzorzec technologii transformacyjnych

Aby zrozumieć, jak ważna jest odporność w kontekście AI, warto spojrzeć na to przez pryzmat dawnych technologii, które miały znaczący wpływ na historię ludzkości.

Co pewien czas pojawia się technologia, która całkowicie zmienia oblicze społeczeństwa. Ekonomiści nazywają je „technologiami ogólnego przeznaczenia”. Ogień. Prasa drukarska. Elektryczność. Internet. W każdym z tych przypadków przebieg wydarzeń był podobny: gwałtowne tempo innowacji, realne zagrożenia i instytucje próbujące nadążyć za zmianami. Ale każdy z tych przykładów pokazuje też, co trzeba zrobić, aby bezpiecznie korzystać z potężnej technologii.

To ogień pozwolił na rozwój ludzkiej cywilizacji. Dawał nam ciepło, pozwalało gotować posiłki i chronił nas przed drapieżnikami. Pożary doszczętnie strawiły też nasze miasta. Z biegiem czasu społeczeństwa wypracowały sobie odporność: materiały ognioodporne, sieci hydrantów, profesjonalna straż pożarna i przepisy budowlane. To cały ekosystem, złożony z wielu warstw.

Tak samo było z elektrycznością. Gdy w 1882 roku elektrownia Edisona przy Pearl Street oświetliła Manhattan, elektryczność przyniosła ze sobą pożary, porażenia prądem i panikę wśród mieszkańców. Bez zabezpieczeń, takich jak izolowane przewody, wyłączniki i przepisy, w miastach w całym kraju dochodziło do porażeń prądem wśród pracowników i przechodniów. W miastach toczyły się dyskusje, czy nie zrezygnować z tego eksperymentu całkowicie. Zamiast tego, wraz z rozwojem technologii, stworzyliśmy niezależne urzędy certyfikacyjne, takie jak Underwriters Laboratories, opracowaliśmy normy branżowe, takie jak National Electrical Code, oraz zapewniliśmy inwestycje publiczne, które doprowadziły prąd do społeczności pominiętych przez rynek. Każda z tych warstw zwiększyła bezpieczeństwo i dostępność energii elektrycznej – dziś jest ona tak bezpieczna, że nawet dziecko może nacisnąć włącznik i zapalić światło.

Tak właśnie wygląda prawdziwa odporność, gdy wszystko jest zrobione właściwie.

Sztuczna inteligencja wymaga ekosystemu odporności

Sztuczna inteligencja podąża tą samą ścieżką, co wcześniejsze technologie, ale rozwija się w niespotykanym dotąd tempie.

To dopiero początek, ale korzyści są już oczywiste: sztuczna inteligencja zmniejsza bariery związane z zakładaniem firm, poszerza dostęp do edukacji, przyspiesza odkrycia naukowe i rewolucjonizuje medycynę.

Jednocześnie równie szybko pojawiają się zagrożenia – i to w sposób, który stanowi lustrzane odbicie korzyści płynących ze sztucznej inteligencji. Ten sam rozwój, który tworzy nowe branże, może wywrócić do góry nogami te istniejące i zakłócić kariery zawodowe. Te same systemy, które mogą pomagać młodym ludziom w nauce i wspierać ich kreatywność, mogą też prowadzić do niepożądanych zachowań. Narzędzia, które przyspieszają badania biologiczne, mogą ułatwić tworzenie szkodliwych patogenów. A zdolność sztucznej inteligencji do pisania kodu, w nieodpowiednich rękach, może stanowić zagrożenie dla infrastruktury o znaczeniu krytycznym.

Pierwsi członkowie zespołu OpenAI uważali, że zapewnienie korzyści płynących z AI dla społeczeństwa zależy przede wszystkim od rozwiązania problemu dostosowania technologii do ludzkich wartości. Ta kwestia nadal ma kluczowe znaczenie – i stanowi centralny element naszej pracy – ale teraz uważamy, że to tylko jeden z elementów szerszego systemu. W miarę upowszechniania się sztucznej inteligencji w różnych sektorach i krajach społeczeństwo będzie potrzebowało niezależnych badań, infrastruktury publicznej, koordynacji działań branżowych oraz zupełnie nowych dziedzin wiedzy specjalistycznej. Krótko mówiąc, będzie to wymagało odporności AI.

Postanowiliśmy skoncentrować nasze początkowe działania na czterech obszarach^2⁠, które znajdują się na styku poważnych, krótkoterminowych zagrożeń i bezpośrednich skutków:

1. Odporność biologiczna, która pomoże zapobiegać wywołanym przez człowieka pandemiom w przyszłości;

2. Cyberodporność, która ma zapewnić bezpieczeństwo kluczowych systemów na całym świecie;

3. Bezpieczeństwo modeli AI, które umocni kontrolę ludzi nad tworzonymi przez nas modelami; a także

4. Wpływ AI na młodzież, aby technologia stała się siłą napędową pozytywnych zmian dla przyszłych pokoleń.

Nasza praca dopiero się zaczyna. Planujemy opowiedzieć więcej o naszych strategiach i pierwszych dotacjach w każdym z tych obszarów, a z czasem zamierzamy rozszerzyć działalność na inne dziedziny.

Odporność biologiczna

Sztuczna inteligencja pozwoli na prowadzenie badań biologicznych w niespotykanym dotąd tempie, przyczyniając się do opracowywania nowych metod leczenia i poprawy zdrowia publicznego, dzięki czemu wszyscy będziemy mogli żyć zdrowiej i dłużej. Jednak te same możliwości mogą też zostać użyte przez osoby działające w złej wierze, które skorzystają z łatwiejszych metod tworzenia szkodliwych patogenów.

W dobie sztucznej inteligencji trzeba ponownie skupić się na kwestii bezpieczeństwa biologicznego. Przestępcy mogą wykorzystać zaawansowane systemy sztucznej inteligencji do tworzenia różnego rodzaju zagrożeń biologicznych, dlatego musimy skupiać się na rozwiązaniach w zakresie bezpieczeństwa biologicznego, które nie są ograniczone do konkretnych patogenów. Będzie to wymagało inwestycji w zakresie zapobiegania, wykrywania i obrony. Musimy utrudnić osobom działającym w złej wierze dostęp do wiedzy specjalistycznej, sprzętu i materiałów umożliwiających tworzenie zagrożeń biologicznych, zwiększyć nasze możliwości wczesnego wykrywania i monitorowania nowych ognisk chorób oraz rozwijać technologie, takie jak środki ochrony indywidualnej, systemy oczyszczania powietrza w pomieszczeniach i medyczne środki przeciwdziałania, które są niezbędne do szybkiego i skutecznego reagowania.

Cyberodporność

Sztuczna inteligencja zaczęła gwałtownie zmieniać oblicze cyberbezpieczeństwa. Zadania, które kiedyś wymagały wyspecjalizowanych zespołów, teraz mogą być wspomagane lub zautomatyzowane przez zaawansowane modele. Jednocześnie szybko rozwijające się możliwości sztucznej inteligencji można też wykorzystać do usprawnienia działań osób zajmujących się cyberbezpieczeństwem, między innymi poprzez wykrywanie i usuwanie luk w zabezpieczeniach oraz przyspieszenie reakcji.

Wiele dużych firm i podmiotów prywatnych przeznacza znaczne środki na cyberbezpieczeństwo, aby zabezpieczyć swoje systemy, w tym wykorzystując najnowsze osiągnięcia w dziedzinie sztucznej inteligencji. Przewidujemy przeznaczenie znacznych zasobów na ochronę innych ważnych podmiotów społecznych, które dysponują mniejszymi zasobami i którym znacznie trudniej będzie wdrożyć cyberzabezpieczenia gotowe na erę AI w wymaganym tempie. Równolegle skupiamy się też na przygotowaniach do nowych wyzwań związanych z bezpieczeństwem, jakie w końcu przyniesie ogólna sztuczna inteligencja.

Bezpieczeństwo modeli AI

Bezpieczeństwo modeli AI skupia się na zachowaniu samych systemów – czy są one rzetelne, niezawodne i działają zgodnie z intencjami człowieka. W sytuacji, w której nie wszystko idzie zgodnie z planem, modele mogą wymknąć się spod kontroli i zachowywać się w nieprzewidywalny sposób, wprowadzając nas w błąd lub dążąc do celów wykraczających poza ich pierwotne przeznaczenie. Zrozumienie tego staje się coraz ważniejsze, bo systemy AI stają się coraz bardziej autonomiczne i zbliżają się do poziomu ludzkiej inteligencji, a w końcu z biegiem czasu go przewyższają.

Firmy z branży AI przeznaczają znaczne środki na zapewnienie bezpieczeństwa modeli. Jednak to wyzwanie wymaga stworzenia szerszego i bardziej stabilnego ekosystemu: niezależnych instytucji oceniających bezpieczeństwo modeli, publicznej infrastruktury pozwalającej sprawdzić, czy modele działają bezpiecznie w praktyce, oraz ciągłego rozwoju nauki o dostosowywaniu, która przyczynia się do ogólnego postępu w tej dziedzinie.

Wpływ AI na młodzież

Młodzi ludzie zazwyczaj jako pierwsi korzystają z nowych technologii, wykorzystując je do nauki, tworzenia, komunikacji i poznawania świata. Dotyczy to również sztucznej inteligencji. Jednak w miarę wzrostu znaczenia tych narzędzi w codziennym życiu młodych ludzi coraz ważniejsze staje się pozyskiwanie rzetelnych danych, które pozwolą nam zrozumieć ich wpływ.

Rodziny, szkoły, decydenci i organizacje społeczne zmagają się z pytaniami o to, w jaki sposób i kiedy młodzi ludzie mają do czynienia z AI – w tym o jej wpływ na relacje międzyludzkie, naukę i rozwój. Początkowo skoncentrujemy się na wspieraniu niezależnych badań, które pomogą w podejmowaniu tych decyzji – aby lepiej zrozumieć, w jakich obszarach sztuczna inteligencja może wspierać rozwój, jakie ryzyko może ze sobą nieść oraz jakie uwarunkowania wpływają na te skutki.

Te spostrzeżenia powinny stać się podstawą szeroko zakrojonych standardów bezpieczeństwa i zasad projektowania, które będą wyznaczać kierunek rozwoju wszelkich produktów opartych na sztucznej inteligencji, sposób ich wdrażania przez szkoły oraz to, czy i w jaki sposób rodziny zdecydują się wprowadzić te technologie do swojego życia.

Co dalej

Istnieje jedna zasadnicza różnica między sztuczną inteligencją a technologiami, które ją poprzedzały: szybkość.

Wypracowanie odporności na ogień zajęło tysiące lat. Zbudowanie odporności sieci energetycznej zajęło dziesięciolecia. Odporność w zakresie sztucznej inteligencji ewoluuje na przestrzeni zaledwie kilku lat. Równolegle z tym projektem należy stworzyć systemy, które zapewnią jego bezpieczeństwo, niezawodność i szerokie korzyści.

Jeśli zrobimy to we właściwy sposób, sztuczna inteligencja może stać się częścią podstawowej infrastruktury współczesnego życia, zwiększając dostęp do wiedzy, przyspieszając odkrycia i poprawiając jakość życia na całym świecie.

Ale nie ma gwarancji, że tak się stanie. Żadna technologia ogólnego zastosowania nigdy sama z siebie nie stała się bezpieczna.

Odporność to długofalowe przedsięwzięcie, które wymaga zaangażowania wielu osób i instytucji w budowanie, inwestowanie i współpracę. Jest to zadanie, które musimy wykonać – i jedno z kluczowych wyzwań naszych czasów. Mamy nadzieję, że będziesz nam w tym towarzyszyć.