Reziliența în era inteligenței artificiale

OpenAI Foundation există pentru a se asigura că inteligența generală artificială aduce beneficii întregii omeniri.

Am lucrat fără încetare pentru a ține pasul cu progresele rapide ale inteligenței artificiale însăși. În aprilie, OpenAI Foundation a anunțat⁠ primele noastre granturi în valoare de 100 de milioane de dolari în domeniul științelor vieții și al tratării bolilor, cu ambiția de a contribui la prevenirea și tratarea unor boli precum boala Alzheimer, valorificând inteligența artificială avansată. Săptămâna trecută, am anunțat⁠ programul nostru Locuri de muncă și viitor economic, cu speranța de a înțelege și de a modela ce înseamnă munca și prosperitatea economică pentru generațiile viitoare.

Astăzi, ne extindem viziunea pentru următorul program major, asigurându-ne că, pe măsură ce capacitățile inteligenței artificiale cresc, capacitatea societății de a le valorifica va crește la fel de rapid. Numim această activitate Reziliența la inteligență artificială: abordarea ecosistemică necesară pentru a atenua riscurile asociate inteligenței artificiale, astfel încât societatea să le poată maximiza beneficiile.

Munca noastră a început deja. În doar câteva luni de la demararea activității noastre, OpenAI Foundation lucrează la finalizarea unor granturi în valoare de peste 130 de milioane de dolari acordate organizațiilor prin programul nostru Reziliența la inteligență artificială; acestea vor fi anunțate public în curând, iar altele vor urma.^1⁠

Tiparul tehnologiilor transformaționale

Importanța rezilienței la inteligență artificială este cel mai bine înțeleasă prin prisma tehnologiilor din trecut care au modelat semnificativ istoria omenirii.

Din când în când, apare o tehnologie care remodelează societatea din temelii. Economiștii le numesc „tehnologii de uz general”. Foc. Presa tipografică. Electricitate. Internetul. Fiecare a urmat o traiectorie similară: inovație rapidă, riscuri reale și instituții care se grăbesc să țină pasul. Dar fiecare exemplu arată și ce este necesar pentru a face sigură o tehnologie puternică.

Focul a făcut posibilă civilizația umană. Ne-a ținut de cald, ne-a gătit mâncarea și ne-a protejat de prădători. De asemenea, a ars orașele noastre din temelii. De-a lungul timpului, societățile și-au consolidat reziliența: materiale rezistente la foc, rețele de hidranți, servicii profesioniste de pompieri și norme de construcție. Un ecosistem, strat cu strat.

Electricitatea a urmat același drum. După ce Centrala Pearl Street a lui Edison a luminat Manhattanul în 1882, electricitatea a adus incendii, electrocutări și panică în rândul publicului. În lipsa unor măsuri de protecție precum cablurile izolate, siguranțele automate și normele de siguranță, muncitorii și persoanele aflate în apropiere au fost electrocutați în orașe din întreaga țară. Orașele au dezbătut dacă experimentul ar trebui abandonat în totalitate. În schimb, pe măsură ce tehnologia a avansat, am înființat organisme independente de testare, precum Underwriters Laboratories, standarde industriale precum National Electrical Code și investiții publice care au adus electricitatea în comunități pe care piața le lăsase în urmă. Fiecare strat a făcut electricitatea mai sigură și mai accesibilă; astăzi, este atât de sigură încât un copil poate apăsa pe un întrerupător și se aprinde lumina.

Așa arată reziliența atunci când este făcută bine.

Inteligența artificială necesită un ecosistem de reziliență

Inteligența artificială urmează aceeași traiectorie ca tehnologiile anterioare, dar avansează cu o viteză fără precedent.

Ne aflăm încă la începuturile sale, dar beneficiile sunt deja clare: inteligența artificială reduce barierele în calea lansării unei afaceri, extinde accesul la educație, accelerează descoperirile științifice și transformă medicina.

În același timp, riscurile se conturează la fel de repede, dar și ca o imagine în oglindă a beneficiilor inteligenței artificiale. Aceeași creștere care creează noi industrii le poate bulversa pe cele existente și poate perturba carierele. Aceleași sisteme care îi pot ajuta pe tineri să învețe și să creeze ar putea, de asemenea, să conducă la comportamente dăunătoare. Instrumentele care accelerează cercetarea biologică ar putea reduce bariera în calea creării unor agenți patogeni dăunători. Iar capacitatea inteligenței artificiale de a programa, în mâini nepotrivite, ar putea amenința infrastructura critică.

Echipa inițială a OpenAI considera că asigurarea faptului că inteligența artificială aduce beneficii societății depindea în primul rând de rezolvarea problemei alinierii tehnice. Acest lucru rămâne esențial, precum și central pentru activitatea noastră, dar acum considerăm că reprezintă doar o piesă din puzzle. Pe măsură ce inteligența artificială se răspândește în diverse sectoare și țări, societatea va avea nevoie, de asemenea, de cercetare independentă, infrastructură publică, coordonare la nivelul industriei și domenii de expertiză cu totul noi. Pe scurt, va necesita reziliența la inteligență artificială.

Am ales să ne concentrăm activitatea inițială pe patru domenii^2⁠ aflate la intersecția dintre riscuri majore, pe termen scurt, și impact imediat:

1. Bioreziliență pentru a contribui la prevenirea viitoarelor pandemii create prin inginerie;

2. Reziliența cibernetică pentru a contribui la asigurarea securității sistemelor critice ale lumii noastre;

3. Siguranța modelelor IA pentru a consolida controlul umanității asupra modelelor pe care le creăm; și

4. Impactul inteligenței artificiale asupra tinerilor pentru a contribui la transformarea tehnologiei într-o forță pozitivă pentru generațiile viitoare.

Demersul nostru este doar la început. Plănuim să oferim mai multe informații despre strategiile noastre și despre finanțările inițiale din fiecare domeniu, precum și să ne extindem treptat în alte domenii.

Bioreziliența

Inteligența artificială va permite cercetării biologice să avanseze cu o viteză fără precedent, contribuind la dezvoltarea de noi tratamente și îmbunătățiri în domeniul sănătății publice, care ne vor permite tuturor să trăim mai sănătos și mai mult. Cu toate acestea, aceleași capacități ar putea fi, de asemenea, utilizate abuziv de actori rău intenționați, reducând obstacolele în calea proiectării unor agenți patogeni nocivi.

Epoca inteligenței artificiale necesită un accent reînnoit pe biosecuritate. Deoarece sistemele avansate de inteligență artificială ar putea fi utilizate abuziv de actori rău intenționați pentru a contribui la crearea unei game largi de amenințări biologice, vom acord prioritate soluțiilor de biosecuritate care nu sunt specifice unui anumit agent patogen. Acest lucru va necesita investiții în prevenire, detectare și apărare. Trebuie să îngreunăm accesul actorilor rău intenționați la expertiza, echipamentele și materialele necesare pentru a crea amenințări biologice, să ne îmbunătățim capacitatea de a identifica și monitoriza din timp focarele noi și să consolidăm tehnologiile, cum ar fi echipamentele de protecție, sistemele de purificare a aerului din spații interioare și contramăsurile medicale, necesare pentru a răspunde rapid și eficient.

Reziliența cibernetică

Inteligența artificială a început să remodeleze rapid peisajul securității cibernetice. Munca care necesita odinioară echipe specializate poate fi acum asistată sau automatizată de modele capabile. În același timp, capacitățile inteligenței artificiale care se îmbunătățesc rapid pot fi folosite și pentru a accelera activitatea apărătorilor cibernetici, inclusiv prin identificarea și remedierea vulnerabilităților și prin accelerarea răspunsului.

Multe companii mari și actori privați pot investi masiv în securitate cibernetică pentru a-și proteja propriile sisteme, inclusiv prin valorificarea noilor progrese în domeniul inteligenței artificiale. Anticipăm că vom concentra resurse semnificative asupra protejării altor actori societali importanți, care dispun de mai puține resurse și pentru care va fi mult mai dificil să implementeze apărări cibernetice pregătite pentru inteligența artificială atât de rapid pe cât este necesar. În paralel, ne concentrăm, de asemenea, pe pregătirea pentru noile provocări de securitate pe care inteligența generală artificială le va aduce în cele din urmă.

Siguranța modelelor IA

Siguranța modelelor IA se concentrează pe comportamentul sistemelor în sine: dacă acestea sunt veridice, fiabile și aliniate cu intenția umană. Într-o lume în care lucrurile o iau pe o cale greșită, modelele pot scăpa de sub control și se pot comporta în moduri imprevizibile, înșelându-ne sau urmărind obiective dincolo de scopul pentru care au fost proiectate. Gestionarea corectă a acestui aspect devine din ce în ce mai importantă pe măsură ce sistemele de inteligență artificială devin tot mai autonome și se apropie de inteligența de nivel uman, iar în cele din urmă o depășesc.

Companiile din domeniul inteligenței artificiale investesc resurse substanțiale în siguranța modelelor. Totuși, importanța acestei provocări impune un ecosistem mai amplu și mai robust: instituții independente care să evalueze siguranța modelelor, infrastructură publică pentru a verifica implementarea în siguranță a modelelor în practică și progrese continue în știința alinierii, care să ducă domeniul mai departe în ansamblu.

Impactul inteligenței artificiale asupra tinerilor

Tinerii sunt adesea printre primii care adoptă noile tehnologii, folosindu-le pentru a învăța, a crea, a comunica și a explora lumea. Inteligența artificială nu face excepție. Dar, pe măsură ce aceste instrumente devin o parte tot mai importantă din viața de zi cu zi a tinerilor, este esențial să dezvoltăm o bază de dovezi mai solidă pentru a înțelege impactul acestora.

Familiile, școlile, factorii de decizie și organizațiile comunitare încearcă toate să găsească răspunsuri la întrebări despre cum și când interacționează tinerii cu inteligența artificială, inclusiv despre impactul acesteia asupra conexiunii umane, învățării și dezvoltării. Accentul nostru inițial se va pune pe promovarea cercetării independente pentru a contribui la orientarea acelor decizii, pentru a înțelege mai bine unde poate inteligența artificială să sprijine dezvoltarea, riscurile pe care le poate introduce și contextele care modelează acele efecte.

Aceste perspective ar trebui să stea la baza unor standarde cuprinzătoare de siguranță și a unor principii de proiectare care să ghideze modul în care este dezvoltat orice produs IA, modul în care școlile aleg să îl implementeze și dacă și cum decid familiile să integreze aceste tehnologii în viața lor.

Munca care urmează

Există o diferență esențială între inteligența artificială și tehnologiile care au precedat-o: viteza.

Reziliența la foc a necesitat milenii. Reziliența la electricitate a necesitat decenii. Reziliența la inteligență artificială evoluează într-un interval de câțiva ani. Sistemele care o fac sigură, fiabilă și benefică pe scară largă trebuie construite în paralel cu aceasta.

Dacă procedăm corect, inteligența artificială poate deveni parte din infrastructura fundamentală a vieții moderne, extinzând accesul la cunoaștere, accelerând descoperirile și îmbunătățind vieți la scară globală.

Dar acel rezultat nu este garantat. Nicio tehnologie de uz general nu a devenit vreodată sigură de la sine.

Reziliența este o disciplină continuă care necesită implicarea multor persoane și instituții în procesul de construire, investiții și colaborare. Aceasta este munca ce ne așteaptă și reprezintă una dintre provocările definitorii ale vremurilor noastre. Sperăm că te vei alătura nouă.