Resiliência na era da IA

A Fundação OpenAI existe para garantir que a inteligência artificial geral beneficie toda a humanidade.

Temos trabalhado incansavelmente para acompanhar a rápida evolução da própria IA. Em abril, a Fundação anunciou⁠ os nossos primeiros 100 milhões de dólares em bolsas de financiamento na área das ciências da vida e cura de doenças, com a ambição de ajudar a prevenir e tratar doenças como o Alzheimer, tirando partido da IA avançada. Na semana passada, anunciámos⁠ o nosso programa Emprego e Futuros Económicos, na esperança de compreender e influenciar a forma como o trabalho e a prosperidade económica serão definidos para as gerações futuras.

Hoje, apresentamos uma visão mais alargada para o próximo grande programa: assegurar que, à medida que as capacidades da IA aumentam, a capacidade da sociedade para as utilizar e delas beneficiar cresce com igual rapidez. Designamos este esforço por resiliência da IA: uma abordagem assente no ecossistema necessária para reduzir os riscos associados à IA, de modo a que a sociedade possa tirar o máximo partido dos seus benefícios.

O nosso trabalho já começou. Nos poucos meses decorridos desde que iniciámos o nosso trabalho, a Fundação encontra-se a finalizar a atribuição de mais de 130 milhões de dólares em financiamentos a organizações através do programa de Resiliência da IA. Estes apoios serão anunciados publicamente em breve, seguindo-se outros futuramente.^1⁠

O padrão das tecnologias transformadoras

A importância da resiliência da IA é melhor compreendida à luz de tecnologias do passado que moldaram de forma significativa a história da humanidade.

De tempos em tempos, surge uma tecnologia que transforma a sociedade de forma profunda. Os economistas chamam-lhes "tecnologias de uso geral". Fogo. A prensa tipográfica. Eletricidade. A internet. Todas seguiram uma trajetória semelhante: inovação acelerada, riscos reais e instituições a tentar acompanhar o ritmo. Contudo, cada caso também demonstra o que é necessário para garantir a segurança de uma tecnologia poderosa.

O fogo tornou possível a civilização humana. Manteve-nos aquecidos, permitiu cozinhar os alimentos e protegeu-nos de predadores. Também reduziu cidades inteiras a cinzas. Com o tempo, as sociedades desenvolveram resiliência: materiais resistentes ao fogo, redes de hidrantes, corpos de bombeiros profissionais e regulamentos de construção. Um ecossistema, camada após camada.

A eletricidade seguiu o mesmo caminho. Depois de a Pearl Street Station de Edison ter iluminado Manhattan em 1882, a eletricidade trouxe incêndios, eletrocussões e pânico generalizado. Sem proteções como cabos isolados, disjuntores e normas, trabalhadores e transeuntes eram eletrocutados em cidades por todo o país. As cidades debateram se a experiência devia ser abandonada por completo. Em vez disso, à medida que a tecnologia avançava, criámos entidades independentes de testes, como a Underwriters Laboratories, normas industriais, como o National Electrical Code, e investimento público que levou eletricidade às comunidades que o mercado tinha deixado para trás. Cada camada tornou a eletricidade mais segura e mais acessível; hoje, é tão segura que uma criança pode premir um interruptor e a luz acende-se.

É assim que a resiliência se manifesta quando é bem trabalhada.

A IA requer um ecossistema de resiliência

A IA está a seguir a mesma trajetória das tecnologias anteriores, mas a avançar a uma velocidade sem precedentes.

Ainda estamos numa fase inicial, mas os benefícios já são evidentes: a IA está a reduzir as barreiras à criação de empresas, a expandir o acesso à educação, a acelerar a descoberta científica e a transformar a medicina.

Ao mesmo tempo, os riscos estão a surgir com igual rapidez — e em paralelo com os benefícios da IA. O mesmo crescimento que cria novas indústrias pode transformar radicalmente as já existentes e desestabilizar carreiras profissionais. Os mesmos sistemas que podem ajudar os jovens a aprender e a criar também podem conduzir a comportamentos prejudiciais. As ferramentas que aceleram a investigação biológica poderiam reduzir a barreira à criação de agentes patogénicos nocivos. E a capacidade da IA de escrever código, nas mãos erradas, poderia ameaçar infraestruturas críticas.

A equipa inicial da OpenAI acreditava que garantir que a IA beneficiava a sociedade dependia sobretudo da resolução do problema técnico do alinhamento. Isso continua a ser crucial — e central para o nosso trabalho — mas acreditamos agora que é apenas uma peça do enigma. À medida que a IA se difunde por setores e nações, a sociedade também exigirá investigação independente, infraestruturas públicas, coordenação da indústria e áreas de especialização inteiramente novas. Em suma, exigirá resiliência da IA.

Optámos por centrar o nosso trabalho inicial em quatro áreas^2⁠ que se situam na interseção entre grandes riscos de curto prazo e impacto imediato:

1. Bio-resiliência para ajudar a prevenir pandemias futuras de origem artificial;

2. Ciber-resiliência para trabalhar no sentido de garantir a segurança dos sistemas críticos do nosso mundo;

3. Segurança dos modelos de IA para consolidar o controlo da humanidade sobre os modelos que criamos; e

4. o impacto da IA nos jovens para ajudar a tornar a tecnologia uma força positiva para as gerações futuras.

O nosso trabalho está apenas a começar. Planeamos partilhar mais sobre as nossas estratégias e os financiamentos iniciais em cada área, bem como expandir para outras áreas ao longo do tempo.

Bio-resiliência

A IA permitirá que a investigação biológica avance a uma velocidade sem precedentes, ajudando a desenvolver novas curas e melhorias na saúde pública que nos permitam a todos viver de forma mais saudável e durante mais tempo. No entanto, estas mesmas capacidades poderiam também ser utilizadas indevidamente por agentes maliciosos, facilitando a criação de agentes patogénicos nocivos.

A era da IA exige um foco renovado na biossegurança. Uma vez que sistemas avançados de IA podem ser mal utilizados por agentes maliciosos para ajudar a criar uma vasta gama de ameaças biológicas, iremos dar prioridade a soluções de biossegurança independentes de agentes patogénicos específicos. Isto exigirá investimentos nas áreas de prevenção, deteção e defesa. Temos de dificultar o acesso de agentes maliciosos à experiência, ao equipamento e aos materiais necessários para criar ameaças biológicas, reforçar a nossa capacidade de detetar e monitorizar precocemente novos surtos e melhorar as tecnologias — como equipamento de proteção, sistemas de filtragem do ar em interiores e contramedidas médicas — essenciais para uma resposta rápida e eficaz.

Ciber-resiliência

A IA começou a transformar rapidamente o panorama da cibersegurança. O trabalho que antes exigia equipas especializadas pode agora ser apoiado ou automatizado por modelos capazes. Ao mesmo tempo, as capacidades de IA em rápida evolução também podem ser usadas para reforçar os defensores cibernéticos, incluindo a identificação e correção de vulnerabilidades e a aceleração da resposta.

Muitas grandes empresas e intervenientes privados podem investir fortemente em cibersegurança para proteger os seus próprios sistemas, incluindo com novos avanços em IA. Antecipamos o foco de recursos significativos na proteção de outros atores sociais importantes que dispõem de menos recursos e terão muito mais dificuldade em implementar defesas cibernéticas preparadas para IA com a rapidez necessária. Em paralelo, também estamos focados em preparar-nos para os novos desafios de segurança que a inteligência artificial geral acabará por trazer.

Segurança de modelos de IA

A segurança dos modelos de IA centra-se no comportamento dos próprios sistemas — se são verdadeiros, fiáveis e alinhados com a intenção humana. Num mundo em que isto corre mal, os modelos podem sair do controlo e comportar-se de formas imprevisíveis, enganando-nos ou perseguindo objetivos para além daquilo para que foram concebidos. Acertar neste ponto torna-se cada vez mais importante à medida que os sistemas de IA se tornam mais autónomos e se aproximam — e, eventualmente, ultrapassam — a inteligência ao nível humano.

As empresas de IA estão a investir recursos substanciais na segurança dos modelos. No entanto, a importância deste desafio exige um ecossistema mais amplo e robusto: instituições independentes para avaliar a segurança dos modelos, infraestrutura pública para verificar a implementação segura dos modelos na prática e avanços contínuos na ciência do alinhamento que façam progredir esta área de forma abrangente.

O impacto da IA nos jovens

Os jovens estão frequentemente entre os primeiros a adotar novas tecnologias, utilizando-as para aprender, criar, comunicar e explorar o mundo. A IA não é exceção. Mas, à medida que estas ferramentas se tornam uma parte cada vez mais presente do quotidiano dos jovens, é fundamental que desenvolvamos uma base de evidência mais sólida para compreender os seus impactos.

Famílias, escolas, decisores políticos e organizações comunitárias procuram responder a questões sobre como e quando os jovens interagem com a IA — incluindo o seu impacto na ligação humana, na aprendizagem e no desenvolvimento. O nosso foco inicial incidirá na promoção da investigação independente para ajudar a orientar essas decisões — para compreender melhor onde a IA pode apoiar o desenvolvimento, os riscos que poderá introduzir e os contextos que moldam esses efeitos.

Estas conclusões devem servir de base a normas de segurança abrangentes e a princípios de conceção que orientem a forma como qualquer produto de IA é desenvolvido, como as escolas optam por o implementar e se, e de que forma, as famílias decidem incorporar estas tecnologias nas suas vidas.

O trabalho futuro

Há uma diferença crucial entre a IA e as tecnologias que a precederam: a velocidade.

A resiliência ao fogo demorou milénios. A resiliência da eletricidade demorou décadas. A resiliência da IA está a evoluir numa questão de anos. Os sistemas que a tornam segura, fiável e amplamente benéfica têm de ser construídos em paralelo com ela.

Se o fizermos corretamente, a IA pode tornar-se parte da infraestrutura base da vida moderna — ampliando o acesso ao conhecimento, acelerando a descoberta e melhorando vidas à escala global.

Mas esse desfecho não está assegurado. Nenhuma tecnologia de uso geral alguma vez se tornou segura por si só.

A resiliência é uma disciplina permanente que exige que muitas pessoas e instituições construam, invistam e colaborem. É esse o trabalho que temos pela frente, e é um dos desafios mais determinantes do nosso tempo. Esperamos contar consigo.