Ketahanan ing jaman AI

OpenAI Foundation ana kanggo mesthekake yen kecerdasan umum tiruan migunani kanggo kabeh umat.

Kita wis makarya tanpa kendhat kanggo ngimbangi kemajuan AI sing cepet banget iku dhéwé. Ing wulan April, Foundation ngumumake⁠ dana hibah kapisan kita senilai $100 yuta ing bidang Ilmu Hayati lan Nambani Penyakit, kanthi ambisi kanggo mbantu nyegah lan nambani penyakit kaya Alzheimer kanthi manfaatake AI canggih. Minggu kepungkur, kita ngumumake⁠ program Pakaryan lan Masa Depan Ekonomi, kanthi pangarep-arep bisa mangerteni lan mbentuk apa tegesé pakaryan lan kamakmuran ekonomi kanggo generasi mbesuk.

Dina iki, kita njlentrehake luwih jembar visi kita kanggo program gedhe sabanjure—kanggo mesthekake manawa, nalika kabisan AI saya berkembang, kemampuan masyarakat kanggo manfaatake uga bakal tuwuh kanthi cepet sing padha. Kita ngarani karya iki Ketahanan AI: pendekatan ekosistem sing dibutuhake kanggo nyuda risiko AI, supaya masyarakat bisa ngoptimalake paédahé.

Pakaryan kita wis diwiwiti. Sajrone sawetara wulan sing cekak wiwit kita miwiti karya iki, Foundation lagi ngupaya ngrampungake hibah luwih saka $130 yuta kanggo organisasi-organisasi liwat program Ketahanan AI, sing bakal enggal diumumake marang publik lan isih bakal ana tambahan maneh.^1⁠

Pola teknologi transformasional

Pentinge ketahanan AI paling cetha dimangerteni liwat kacamata teknologi-teknologi kepungkur sing nduwèni pangaruh gedhé marang sajarah manungsa.

Saben sawetara wektu, ana teknologi sing teka lan mbentuk maneh masyarakat saka dhasaré. Para ahli ekonomi nyebut iki minangka “teknologi serbaguna.” Api. Mesin cithak. Listrik. Internet. Saben-sabené ngetutaké alur sing padha: inovasi sing pesat, risiko nyata, lan lembaga-lembaga sing kesusu ngimbangi. Nanging saben conto uga nuduhake apa sing dibutuhake kanggo nggawe teknologi sing ampuh dadi aman.

Geni ndadekaké peradaban manungsa bisa kawujud. Iku njaga awaké dhéwé tetep anget, masak panganan awaké dhéwé, lan nglindhungi awaké dhéwé saka kéwan pemangsa. Kuwi uga ngobong kutha-kutha kita nganti rata karo lemah. Suwe-suwe, masyarakat mbangun ketahanan: bahan tahan geni, jaringan hidran, pemadam kebakaran profesional, lan kode bangunan. Sawijining ekosistem, lapis mbaka lapis.

Listrik ngetutaké jalur sing padha. Sawisé Stasiun Pearl Street duwèké Edison madhangi Manhattan ing taun 1882, listrik nyebabaké kebakaran, kasus pati amarga kesetrum, lan kepanikan masarakat. Tanpa pangayoman kayata kabel sing diisolasi, pemutus arus, lan aturan kelistrikan, para pekerja lan wong-wong sing ana ing sacedhake padha kesetrum nganti tiwas ing kutha-kutha saindenging negara. Kutha-kutha padha mbahas apa eksperimen kasebut kudu dipungkasi babar pisan. Nanging, nalika teknologiné saya maju, kita ngedegaké lembaga uji mandiri kaya Underwriters Laboratories, standar industri kaya National Electrical Code, lan investasi publik sing nggawa listrik menyang komunitas-komunitas sing wis ditinggalaké déning pasar. Saben lapisan ndadekake listrik luwih aman lan luwih gampang diakses; saiki, listrik wis aman banget nganti bocah cilik bisa nguripake saklar banjur lampu murup.

Iki wujudé ketahanan nalika ditindakake kanthi becik.

AI mbutuhake ekosistem ketahanan

AI ngetutaké alur perkembangan sing padha kaya teknologi-teknologi sadurungé, nanging lumaku kanthi kacepetan sing durung tau ana sadurungé.

Kita isih ana ing tahap wiwitané, nanging paédahé wis cetha: AI nyuda pepalang kanggo miwiti usaha, ngambakaké akses menyang pendhidhikan, nyepetaké panemon ilmiah, lan ngowahi jagad ilmu kedhokteran.

Ing wektu sing padha, risiko-risiko kasebut muncul kanthi cepet sing padha—lan minangka cerminan kabalikan saka paedah AI. Pangrembakan sing nggawe industri anyar kuwi uga bisa ngowahi kanthi drastis industri sing wis ana lan ngganggu dalan karier. Sistem sing padha, sing bisa mbantu para mudha sinau lan nyipta, uga bisa nyebabake prilaku sing ngrugekake. Piranti sing nyepetake panaliten biologi bisa nyuda alangan kanggo nggawe patogen sing mbebayani. Lan kabisan AI kanggo nulis kode, yen tiba ing tangan sing salah, bisa ngancam infrastruktur kritis.

Tim OpenAI ing wiwitan percaya yen mesthekake AI menehi paedah kanggo masyarakat utamane gumantung marang ngrampungake masalah panyelarasan teknis. Bab iku tetep wigati banget—lan dadi inti saka pakaryan kita—nanging saiki kita percaya manawa iku mung salah siji bagean saka teka-teki. Nalika AI saya sumebar ing macem-macem sektor lan negara, masyarakat uga bakal mbutuhake riset independen, infrastruktur publik, koordinasi industri, lan bidang keahlian sing babar pisan anyar. Cekake, prekara iki bakal mbutuhake ketahanan AI.

Kita wis milih kanggo fokusake pakaryan wiwitan kita ing patang bidang^2⁠ sing dumunung ing persilangan antarane risiko gedhe jangka cedhak lan dampak langsung:

1. Ketahanan biologis kanggo mbantu nyegah pandemi sing direkayasa ing mangsa ngarep;

2. Ketahanan siber kanggo ngupaya njamin keamanan sistem kritis ing donya kita;

3. Kaamanan model AI kanggo nguwatake kontrolé umat manungsa marang model sing kita ciptakake; lan

4. Dampake AI marang wong enom kanggo mbantu ndadekake teknologi dadi kekuwatan positif kanggo generasi mbesuk.

Karya kita mung lagi diwiwiti. Kita ngrancang bakal nuduhake luwih akeh babagan strategi lan dana hibah wiwitan ing saben bidang, lan ngembang menyang bidang-bidang liyane suwe-suwe.

Ketahanan biologis

AI bakal ndadekake panaliten biologi bisa maju kanthi kacepetan sing durung tau ana sadurunge, mbantu ngembangake pangobatan anyar lan paningkatan kesehatan masyarakat supaya kita kabeh bisa urip luwih sehat lan luwih dawa. Nanging, kabisan sing padha iki uga bisa disalahgunakaké déning pihak-pihak sing nduwé niat ala, saéngga nggawe luwih gampang kanggo ngrancang patogen sing mbebayani.

Jaman AI mbutuhake fokus anyar marang biosekuriti. Amarga sistem AI sing canggih bisa disalahgunakaké déning pihak-pihak sing nduwé niat ala kanggo mbantu nyipta manéka warna ancaman biologis, kita bakal ngutamakaké solusi biosekuriti sing ora gumantung marang patogen tartamtu. Iki bakal mbutuhake investasi ing bidang pencegahan, deteksi, lan pertahanan. Kita perlu nggawe luwih angel kanggo pihak sing duwe niat ala ngakses kaprigelan, piranti, lan bahan kanggo nggawe ancaman biologis, ningkatake kemampuan kita kanggo ngenali lan nglacak wabah anyar kanthi luwih awal, lan nguwatake teknologi—kayata piranti pelindung, sistem pembersih hawa njero ruangan, lan langkah penanggulangan medis—sing dibutuhake kanggo nanggapi kanthi cepet lan efektif.

Ketahanan siber

AI wis wiwit kanthi cepet mbentuk maneh lanskap keamanan siber. Pakaryan sing biyèn mbutuhake tim khusus saiki bisa dibantu utawa diotomatisasi dening model sing mumpuni. Ing wektu sing padha, kemampuan AI sing saya maju kanthi cepet uga bisa digunakake kanggo nyepetake pakaryan para pembela siber, kalebu kanthi ngenali lan nambal kerentanan sarta nyepetake respons.

Akeh perusahaan gedhé lan pelaku swasta bisa mbuwang dana gedhé kanggo siber kanggo ngamanaké sistemé dhéwé, kalebu kanthi kemajuan anyar ing AI. Kita ngarepake bakal musatake sumber daya sing gedhe kanggo ngamanake aktor masyarakat penting liyane sing nduweni sumber daya luwih sithik lan bakal luwih kangelan ngetrapake pertahanan siber sing siyap kanggo AI kanthi cepet kaya sing dibutuhake. Ing wektu sing padha, kita uga fokus nyiapake kanggo tantangan kaamanan anyar sing pungkasane bakal ditimbulake dening kecerdasan umum gawean.

Kaslametan modhèl AI

Kaamanan model AI fokus marang prilaku sistem kasebut dhéwé—apa sistem kasebut jujur, bisa dipercaya, lan selaras karo karsa manungsa. Ing jagad nalika perkara iki dadi kacau, model-model bisa uwal saka watesané lan tumindak kanthi cara sing ora bisa diprakirakake, ngapusi kita utawa ngudi tujuan sing ngluwihi rancangané. Mesthekake bab iki ditindakake kanthi bener dadi saya wigati nalika sistem AI saya otonom lan nyedhaki—lan pungkasane ngluwihi—kecerdasan tingkat manungsa.

Perusahaan AI nginvestasikaké sumber daya sing gedhé kanggo keamanan model. Nanging, wigatine tantangan iki mbutuhake ekosistem sing luwih jembar lan luwih kuwat: lembaga-lembaga independen kanggo ngevaluasi keamanan model, infrastruktur publik kanggo verifikasi penerapan model kanthi aman ing praktik, lan kemajuan terus-terusan ing ilmu keselarasan sing majukake bidang iki kanthi jembar.

Pengaruh AI marang para mudha

Para mudha kerep dadi sing paling dhisik nggunakake teknologi anyar, nggunakake teknologi kasebut kanggo sinau, nggawe, komunikasi, lan njelajah jagad. AI uga ora terkecuali. Nanging, amarga piranti-piranti iki saya dadi bagean saka urip saben dinane para mudha, wigati banget kanggo kita ngembangake landhesan bukti sing luwih kuwat supaya bisa mangerteni dampake.

Kulawarga, sekolah, para panentu kabijakan, lan organisasi komunitas padha ngadhepi pitakon babagan kepiye lan kapan para mudha sesambungan karo AI—kalebu pengaruhe marang sesambungan antarmanungsa, pamelajaran, lan pangembangan. Fokus wiwitan kita bakal ana ing upaya majokake panaliten independen kanggo mbantu nuntun kaputusan-kaputusan kasebut—supaya luwih mangerteni ing endi AI bisa nyengkuyung pembangunan, risiko sing bisa ditimbulake, lan konteks-konteks sing mbentuk dampak-dampak kasebut.

Wawasan iki kuduné nyurung standar kaslametan sing jembar lan prinsip desain sing nuntun kepiyé produk AI apa waé dikembangaké, kepiyé sekolah milih kanggo ngetrapaké, lan apa sarta kepiyé kulawarga mutusaké kanggo nggabungaké teknologi iki ing uripé.

Pakaryan sing bakal ditindakake

Ana siji prabédan sing wigati banget antarane AI lan teknologi-teknologi sing wis ana sadurungé: kacepetan.

Ketahanan marang geni mbutuhake ewonan taun. Ketahanan listrik mbutuhake wektu puluhan taun. Ketahanan AI saya ngrembaka sajrone sawetara taun. Sistem-sistem sing ndadekake iku aman, andal, lan migunani sacara wiyar kudu dibangun bebarengan karo iku.

Yen kita bisa nindakake kanthi bener, AI bisa dadi bagean saka infrastruktur dhasar urip modern—nggedhekake akses marang kawruh, nyepetake panemuan, lan ningkatake urip ing skala global.

Nanging, asil kasebut ora dijamin. Ora ana teknologi serbaguna sing tau nggawe awaké dhéwé dadi aman.

Ketangguhan minangka disiplin sing tetep lan mbutuhake akeh wong lan lembaga kanggo mbangun, nandur modhal, lan kerja bareng. Iku pakaryan sing ana ing ngarep kita, lan iku salah siji tantangan sing nemtokake jaman kita. Mugi sampeyan kersa gabung karo kita.