Resiliencia en la era de la IA

La Fundación OpenAI existe para garantizar que la inteligencia artificial general beneficie a toda la humanidad.

Hemos trabajado sin descanso para seguir el ritmo de los rápidos avances de la propia IA. En abril, la Fundación anunció⁠ sus primeras ayudas por valor de 100 millones de dólares en ciencias biológicas y cura de enfermedades, con la ambición de prevenir y tratar enfermedades como el alzhéimer mediante el uso de IA avanzada. La semana pasada, anunciamos⁠ nuestro programa Empleo y futuro económico, con la esperanza de comprender y dar forma a lo que el trabajo y la prosperidad económica significan para las generaciones futuras.

Hoy ampliamos nuestra visión para el próximo gran programa: garantizar que, a medida que crezcan las capacidades de la IA, la capacidad de la sociedad para aprovecharla crezca al mismo ritmo. A esta labor la llamamos resiliencia de la IA: el enfoque ecosistémico necesario para mitigar los riesgos de la IA, de modo que la sociedad pueda maximizar sus beneficios.

Nuestro trabajo ya ha comenzado. En los pocos meses transcurridos desde que iniciamos nuestra labor, la Fundación trabaja para ultimar más de 130 millones de dólares en subvenciones a organizaciones a través de nuestro programa de resiliencia de la IA, que se darán a conocer públicamente en breve y a los que se sumarán más en el futuro.^1⁠

El patrón de las tecnologías transformadoras

La importancia de la resiliencia de la IA se entiende mejor desde la perspectiva de las tecnologías del pasado que marcaron de forma significativa la historia de la humanidad.

Cada cierto tiempo aparece una tecnología que transforma la sociedad desde sus cimientos. Los economistas las denominan «tecnologías de propósito general». El fuego. La imprenta. La electricidad. Internet. Cada una siguió una trayectoria similar: innovación acelerada, riesgos reales e instituciones que se apresuraban a ponerse al día. Sin embargo, cada ejemplo también muestra lo que hace falta para que una tecnología potente sea segura.

El fuego hizo posible la civilización humana. Daba calor, cocinaba alimentos y protegía de los depredadores. También redujo ciudades a cenizas. Con el tiempo, las sociedades desarrollaron resiliencia: materiales ignífugos, redes de bocas de incendio, cuerpos de bomberos profesionales y normativas de edificación. Un ecosistema, capa a capa.

La electricidad siguió el mismo camino. Después de que la central Pearl Street de Edison iluminara Manhattan en 1882, la electricidad trajo consigo incendios, electrocuciones y pánico entre la población. Sin protecciones como cables aislados, interruptores y normativas, trabajadores y transeúntes sufrieron electrocuciones en ciudades de todo el país. Los ayuntamientos debatían si el experimento debía abandonarse por completo. En cambio, a medida que la tecnología avanzaba, creamos organismos de ensayo independientes como Underwriters Laboratories, normas industriales como el National Electrical Code e inversión pública que llevó la electricidad a comunidades que el mercado había dejado atrás. Cada paso hizo que la electricidad fuera más segura y accesible; hoy es tan segura que un niño puede pulsar un interruptor y se enciende una luz.

Así es la resiliencia cuando se hace bien.

La IA necesita un ecosistema de resiliencia

La IA sigue la misma trayectoria que las tecnologías anteriores, pero avanza a una velocidad sin precedentes.

Aún estamos en sus inicios, pero los beneficios ya son evidentes: la IA reduce las barreras para crear una empresa, amplía el acceso a la educación, acelera el descubrimiento científico y transforma la medicina.

Al mismo tiempo, los riesgos surgen con la misma rapidez, como reflejo de los beneficios de la IA. El mismo crecimiento que crea nuevas industrias puede trastocar las ya existentes y alterar las trayectorias profesionales. Los mismos sistemas que pueden ayudar a los jóvenes a aprender y crear también podrían dar lugar a comportamientos perjudiciales. Las herramientas que aceleran la investigación biológica podrían reducir las barreras para crear patógenos dañinos. Y la capacidad de la IA para escribir código, en manos equivocadas, podría poner en riesgo infraestructuras críticas.

El equipo inicial de OpenAI creía que el beneficio de la IA para la sociedad dependía principalmente de resolver el problema técnico de la alineación de la IA con los valores humanos. Esa labor sigue siendo fundamental —y esencial en nuestro trabajo—, pero ahora creemos que es solo una pieza del rompecabezas. A medida que la IA se extienda por sectores y países, la sociedad también necesitará investigación independiente, infraestructura pública, coordinación sectorial y campos de especialización completamente nuevos. En resumen, necesitará resiliencia de la IA.

Hemos decidido centrar nuestro trabajo inicial en cuatro áreas^2⁠ que se sitúan en la intersección entre los grandes riesgos a corto plazo y el impacto inmediato:

1. Biorresiliencia para prevenir las futuras pandemias de origen artificial;

2. Ciberresiliencia para contribuir a garantizar la seguridad de los sistemas críticos de nuestro mundo;

3. Seguridad de los modelos de IA para consolidar el control de la humanidad sobre los modelos que creamos; y

4. El impacto de la IA en la juventud para que la tecnología sea una fuerza positiva para las generaciones futuras.

Nuestro trabajo no ha hecho más que comenzar. Tenemos previsto ofrecer más información sobre nuestras estrategias y las primeras subvenciones en cada área, así como ampliar progresivamente nuestra actuación a otras áreas.

Biorresiliencia

La IA permitirá que la investigación biológica avance a una velocidad sin precedentes y ayudará a desarrollar nuevas curas y mejoras en la salud pública que nos permitan a todos vivir más y mejor. Sin embargo, estas mismas capacidades también podrían ser mal utilizadas por agentes malintencionados, lo que reduciría la barrera para diseñar patógenos dañinos.

La era de la IA exige un enfoque renovado en la bioseguridad. Dado que los agentes malintencionados podrían hacer un uso indebido de los sistemas avanzados de IA para crear una amplia variedad de amenazas biológicas, daremos prioridad a soluciones de bioseguridad independientes del patógeno. Este enfoque requerirá inversiones en prevención, detección y defensa. Debemos dificultar que los agentes malintencionados accedan a los conocimientos especializados, a los equipos y a los materiales necesarios para crear amenazas biológicas, mejorar nuestra capacidad para identificar y rastrear de forma temprana los brotes nuevos, y reforzar las tecnologías —como los equipos de protección, los sistemas de purificación del aire en interiores y las contramedidas médicas— necesarias para responder a las amenazas con rapidez y eficacia.

Ciberresiliencia

La IA ha empezado a transformar con rapidez el panorama de la ciberseguridad. El trabajo que antes requería equipos especializados ahora puede recibir asistencia o automatizarse mediante modelos capaces. Al mismo tiempo, las capacidades de la IA, que avanzan a gran velocidad, también pueden utilizarse para potenciar la labor de los ciberdefensores; por ejemplo, al identificar y corregir vulnerabilidades y agilizar la respuesta.

Muchas grandes empresas y actores privados pueden invertir grandes sumas en ciberseguridad para proteger sus propios sistemas, incluso aprovechando los nuevos avances en IA. Prevemos dedicar importantes recursos a proteger a otros actores sociales de peso que cuentan con menos recursos y que tendrán muchas más dificultades para desplegar ciberdefensas preparadas para la IA con la rapidez necesaria. En paralelo, también nos centramos en prepararnos para los nuevos retos de seguridad que la inteligencia artificial general acabará trayendo.

Seguridad de los modelos de IA

La seguridad de los modelos de IA se centra en el comportamiento de los propios sistemas: si son veraces, fiables y están alineados con la intención humana. Si esto falla, los modelos pueden descontrolarse y comportarse de forma impredecible: pueden engañarnos o perseguir objetivos ajenos a su diseño. Acertar en esto cobra cada vez más importancia a medida que los sistemas de IA ganan autonomía y se aproximan —y, con el tiempo, superan— a la inteligencia de nivel humano.

Las empresas de IA invierten recursos considerables en la seguridad de los modelos. Sin embargo, la importancia de este reto exige un ecosistema más amplio y sólido: instituciones independientes que evalúen la seguridad de los modelos, infraestructura pública para verificar el despliegue seguro de los modelos en la práctica y avances continuos en la ciencia de la alineación que hagan progresar el campo en su conjunto.

El impacto de la IA en los jóvenes

Los jóvenes suelen ser de los primeros en adoptar las nuevas tecnologías y utilizarlas para aprender, crear, comunicarse y explorar el mundo. La IA no es ninguna excepción. Sin embargo, a medida que estas herramientas forman cada vez más parte de la vida cotidiana de los jóvenes, es fundamental que desarrollemos una base empírica más sólida para comprender sus efectos.

Las familias, los centros educativos, los responsables políticos y las organizaciones comunitarias se enfrentan a preguntas sobre cómo y cuándo interactúan los jóvenes con la IA, incluido su impacto en las relaciones humanas, el aprendizaje y el desarrollo. Nuestro enfoque inicial se centrará en impulsar la investigación independiente para orientar esas decisiones: comprender mejor en qué ámbitos la IA puede apoyar el desarrollo, los riesgos que puede introducir y los contextos que configuran sus efectos.

Estas conclusiones deben orientar normas generales de seguridad y principios de diseño que guíen cómo se desarrolla cualquier producto de IA, cómo deciden implementarlos los centros educativos y si las familias deciden incorporar estas tecnologías a su vida, y de qué manera.

El trabajo que nos espera

Hay una diferencia fundamental entre la IA y las tecnologías que la precedieron: la velocidad.

La resiliencia frente al fuego tardó milenios. La resiliencia eléctrica tardó décadas. La resiliencia de la IA evoluciona en cuestión de años. Los sistemas que la hacen segura, fiable y ampliamente beneficiosa deben construirse al mismo tiempo que ella.

Si lo hacemos bien, la IA puede convertirse en parte de la infraestructura fundamental de la vida moderna: ampliar el acceso al conocimiento, acelerar el descubrimiento y mejorar la vida a escala global.

Sin embargo, ese resultado no está garantizado. Ninguna tecnología de propósito general se ha vuelto nunca segura por sí sola.

La resiliencia es una disciplina permanente que requiere que muchas personas e instituciones la desarrollen, inviertan y colaboren. Esa es la tarea que nos espera, y es uno de los desafíos que definen nuestra época. Esperamos que te unas a nosotros.