Odporność w erze sztucznej inteligencji

Misją Fundacji OpenAI jest zapewnienie, aby ogólna sztuczna inteligencja przynosiła korzyści całej ludzkości.

Dokładamy nieustannych starań, aby dotrzymać kroku dynamicznemu rozwojowi sztucznej inteligencji. W kwietniu Fundacja ogłosiła⁠ przyznanie pierwszych dotacji o wartości 100 milionów dolarów w obszarach nauk przyrodniczych i zwalczania chorób, których celem jest profilaktyka i leczenie schorzeń takich jak choroba Alzheimera dzięki zaawansowanej sztucznej inteligencji. W zeszłym tygodniu ogłosiliśmy⁠ nasz program o nazwie „Miejsca pracy i przyszłość gospodarcza”, który ma pomóc nam zrozumieć i ukształtować znaczenie pracy i dobrobytu gospodarczego dla przyszłych pokoleń.

Dzisiaj rozwijamy naszą wizję kolejnego dużego programu – chcemy zadbać o to, aby w miarę rozwoju sztucznej inteligencji społeczeństwo uczyło się wykorzystywać jej możliwości w równie szybkim tempie. Nazywamy to odpornością AI – jest to podejście ekosystemowe niezbędne do ograniczenia zagrożeń związanych ze sztuczną inteligencją, dzięki któremu społeczeństwo jest w stanie w pełni czerpać z niej korzyści.

Nasza praca jest już w toku. W ciągu zaledwie kilku miesięcy od rozpoczęcia naszej działalności Fundacja finalizuje przyznanie dotacji o łącznej wartości ponad 130 milionów dolarów dla różnych organizacji w ramach programu „Odporność AI”. Informacje na ten temat zostaną podane do wiadomości publicznej w najbliższym czasie, a wkrótce pojawią się kolejne.^1⁠

Wzorzec technologii transformacyjnych

Aby zrozumieć, jak ważna jest odporność w kontekście AI, warto spojrzeć na to przez pryzmat dawnych technologii, które miały znaczący wpływ na historię ludzkości.

Co pewien czas pojawia się technologia, która całkowicie zmienia oblicze społeczeństwa. Ekonomiści nazywają je „technologiami ogólnego przeznaczenia”. Ogień. Prasa drukarska. Elektryczność. Internet. W każdym z tych przypadków przebieg wydarzeń był podobny: gwałtowne tempo innowacji, realne zagrożenia i instytucje próbujące nadążyć za zmianami. Ale każdy z tych przykładów pokazuje też, co trzeba zrobić, aby bezpiecznie korzystać z potężnej technologii.

To ogień pozwolił na rozwój ludzkiej cywilizacji. Dawał nam ciepło, pozwalało gotować posiłki i chronił nas przed drapieżnikami. Pożary doszczętnie strawiły też nasze miasta. Z biegiem czasu społeczeństwa wypracowały sobie odporność: materiały ognioodporne, sieci hydrantów, profesjonalna straż pożarna i przepisy budowlane. To cały ekosystem, złożony z wielu warstw.

Tak samo było z elektrycznością. Gdy w 1882 roku elektrownia Edisona przy Pearl Street oświetliła Manhattan, elektryczność przyniosła ze sobą pożary, porażenia prądem i panikę wśród mieszkańców. Bez zabezpieczeń, takich jak izolowane przewody, wyłączniki i przepisy, w miastach w całym kraju dochodziło do porażeń prądem wśród pracowników i przechodniów. W miastach toczyły się dyskusje, czy nie zrezygnować z tego eksperymentu całkowicie. Zamiast tego, wraz z rozwojem technologii, stworzyliśmy niezależne urzędy certyfikacyjne, takie jak Underwriters Laboratories, opracowaliśmy normy branżowe, takie jak National Electrical Code, oraz zapewniliśmy inwestycje publiczne, które doprowadziły prąd do społeczności pominiętych przez rynek. Każda z tych warstw zwiększyła bezpieczeństwo i dostępność energii elektrycznej – dziś jest ona tak bezpieczna, że nawet dziecko może nacisnąć włącznik i zapalić światło.

Tak właśnie wygląda prawdziwa odporność, gdy wszystko jest zrobione właściwie.

Sztuczna inteligencja wymaga ekosystemu odporności

Sztuczna inteligencja podąża tą samą ścieżką, co wcześniejsze technologie, ale rozwija się w niespotykanym dotąd tempie.

To dopiero początek, ale korzyści są już oczywiste: sztuczna inteligencja zmniejsza bariery związane z zakładaniem firm, poszerza dostęp do edukacji, przyspiesza odkrycia naukowe i rewolucjonizuje medycynę.

Jednocześnie równie szybko pojawiają się zagrożenia – i to w sposób, który stanowi lustrzane odbicie korzyści płynących ze sztucznej inteligencji. Ten sam rozwój, który tworzy nowe branże, może wywrócić do góry nogami te istniejące i zakłócić kariery zawodowe. Te same systemy, które mogą pomagać młodym ludziom w nauce i wspierać ich kreatywność, mogą też prowadzić do niepożądanych zachowań. Narzędzia, które przyspieszają badania biologiczne, mogą ułatwić tworzenie szkodliwych patogenów. A zdolność sztucznej inteligencji do pisania kodu, w nieodpowiednich rękach, może stanowić zagrożenie dla infrastruktury o znaczeniu krytycznym.

Pierwsi członkowie zespołu OpenAI uważali, że zapewnienie korzyści płynących z AI dla społeczeństwa zależy przede wszystkim od rozwiązania problemu dostosowania technologii do ludzkich wartości. Ta kwestia nadal ma kluczowe znaczenie – i stanowi centralny element naszej pracy – ale teraz uważamy, że to tylko jeden z elementów szerszego systemu. W miarę upowszechniania się sztucznej inteligencji w różnych sektorach i krajach społeczeństwo będzie potrzebowało niezależnych badań, infrastruktury publicznej, koordynacji działań branżowych oraz zupełnie nowych dziedzin wiedzy specjalistycznej. Krótko mówiąc, będzie to wymagało odporności AI.

Postanowiliśmy skoncentrować nasze początkowe działania na czterech obszarach^2⁠, które znajdują się na styku poważnych, krótkoterminowych zagrożeń i bezpośrednich skutków:

1. Odporność biologiczna, która pomoże zapobiegać wywołanym przez człowieka pandemiom w przyszłości;

2. Cyberodporność, która ma zapewnić bezpieczeństwo kluczowych systemów na całym świecie;

3. Bezpieczeństwo modeli AI, które umocni kontrolę ludzi nad tworzonymi przez nas modelami; a także

4. Wpływ AI na młodzież, aby technologia stała się siłą napędową pozytywnych zmian dla przyszłych pokoleń.

Nasza praca dopiero się zaczyna. Planujemy opowiedzieć więcej o naszych strategiach i pierwszych dotacjach w każdym z tych obszarów, a z czasem zamierzamy rozszerzyć działalność na inne dziedziny.

Bio-resilience

AI will enable biological research to move at unprecedented speed, helping develop new cures and public health improvements that enable us to all live healthier and longer. However, these same capabilities could also be misused by malicious actors, lowering the barrier to designing harmful pathogens.

The age of AI requires a renewed focus on biosecurity. Because advanced AI systems could be misused by bad actors to help create a wide range of biological threats, we will prioritize pathogen-agnostic biosecurity solutions. This will require investments across prevention, detection, and defense. We need to make it harder for malicious actors to access the expertise, equipment, and materials to create biological threats, improve our ability to identify and track novel outbreaks early, and strengthen the technologies—such as protective equipment, indoor air cleaning systems, and medical countermeasures—needed to respond quickly and effectively.

Cyber-resilience

AI has begun to rapidly reshape the cybersecurity landscape. The work that once required specialized teams can now be assisted or automated by capable models. At the same time, rapidly-improving AI capabilities can also be used to accelerate cyberdefenders, including by identifying and patching vulnerabilities and accelerating response.

Many large companies and private actors can spend heavily on cyber to secure their own systems, including with new advances in AI. We anticipate focusing significant resources on securing other important societal actors that are less resourced and will have a much harder time deploying AI-ready cyberdefenses as quickly as needed. In parallel, we are also focused on preparing for novel security challenges that artificial general intelligence will ultimately bring.

AI model safety

AI model safety focuses on the behavior of the systems themselves—whether they are truthful, reliable, and aligned with human intent. In a world where this goes awry, models can break out and behave in unpredictable ways, deceiving us or pursuing goals beyond their design. Getting this right becomes increasingly important as AI systems grow more autonomous and approach—and eventually surpass—human-level intelligence.

AI companies are investing substantial resources in model safety. However, the importance of this challenge calls for a broader, more robust ecosystem: independent institutions to evaluate model safety, public infrastructure to verify models’ safe deployment in practice, and continued advances in alignment science that advance the field broadly.

AI’s impact on young people

Young people are often the earliest adopters of new technologies, using them to learn, create, communicate, and explore the world. AI is no exception. But as these tools become an increasing part of young people’s daily lives, it is critical that we develop a stronger evidence base to understand its impacts.

Families, schools, policymakers, and community organizations are all grappling with questions about how and when young people engage with AI—including its impact on human connection, learning, and development. Our initial focus will be on advancing independent research to help guide those decisions—to better understand where AI can support development, the risks it may introduce, and the contexts that shape those effects.

These insights should drive broad safety standards and design principles that guide how any AI product is developed, how schools choose to deploy them, and if and how families decide to incorporate these technologies into their lives.

The work ahead

There is one critical difference between AI and the technologies that came before it: speed.

Fire resilience took millennia. Electricity resilience took decades. AI resilience is evolving in a matter of years. The systems that make it safe, reliable, and broadly beneficial must be built alongside it.

If we get it right, AI can become part of the foundational infrastructure of modern life—expanding access to knowledge, accelerating discovery, and improving lives at a global scale.

But that outcome isn’t guaranteed. No general purpose technology ever made itself safe.

Resilience is a permanent discipline that requires many people and institutions to build, invest, and collaborate. That is the work ahead, and it is one of the defining challenges of our time. We hope you’ll join us.