Resiliensi di era AI

OpenAI Foundation hadir guna memastikan bahwa kecerdasan umum buatan bermanfaat bagi seluruh umat manusia.

Kami terus bekerja tanpa henti untuk mengimbangi kemajuan pesat dalam AI itu sendiri. Pada bulan April, Yayasan mengumumkan⁠ hibah pertama kami senilai $100 juta di bidang Ilmu Hayati dan Penyembuhan Penyakit, dengan ambisi untuk membantu mencegah dan mengobati penyakit seperti Alzheimer dengan memanfaatkan AI canggih. Minggu lalu, kami mengumumkan⁠ program Pekerjaan dan Masa Depan Ekonomi, dengan harapan dapat memahami dan membentuk makna pekerjaan dan kemakmuran ekonomi bagi generasi mendatang.

Hari ini, kami memperluas visi kami untuk program besar berikutnya—memastikan bahwa, seiring berkembangnya kemampuan AI, kemampuan masyarakat untuk memanfaatkannya akan berkembang sama cepatnya. Kami menyebut upaya ini resiliensi AI: pendekatan ekosistem yang diperlukan untuk memitigasi risiko AI, sehingga masyarakat dapat memaksimalkan manfaatnya.

Pekerjaan kami sudah dimulai. Dalam beberapa bulan saja sejak kami memulai pekerjaan ini, Yayasan tengah berupaya merampungkan hibah senilai lebih dari $130 juta kepada berbagai organisasi melalui program Ketahanan AI kami, yang akan segera diumumkan kepada publik, dan akan ada lebih banyak lagi.^1⁠

Pola teknologi transformatif

Pentingnya resiliensi AI paling baik dipahami melalui sudut pandang teknologi-teknologi masa lalu yang secara signifikan membentuk sejarah manusia.

Sesekali, muncul sebuah teknologi yang mengubah tatanan masyarakat secara mendasar. Para ekonom menyebutnya “teknologi tujuan umum”. Api. Mesin cetak. Listrik. Internet. Masing-masing mengikuti alur yang serupa: inovasi yang pesat, risiko nyata, dan institusi yang berlomba mengejar ketertinggalan. Namun, setiap contoh juga menunjukkan apa yang diperlukan untuk menjadikan teknologi yang sangat kuat aman.

Api memungkinkan adanya peradaban manusia. Api menjaga kita tetap hangat, memasak makanan kita, dan melindungi kita dari pemangsa. Itu juga membakar kota-kota kita hingga rata dengan tanah. Seiring waktu, masyarakat membangun ketangguhan: bahan tahan api, jaringan hidran, dinas pemadam kebakaran profesional, dan peraturan bangunan. Sebuah ekosistem, lapis demi lapis.

Listrik mengikuti jalur yang sama. Setelah Pearl Street Station milik Edison menerangi Manhattan pada 1882, listrik mendatangkan kebakaran, kematian akibat tersengat listrik, dan kepanikan publik. Tanpa pengaman seperti kabel berisolasi, pemutus arus, dan peraturan kelistrikan, para pekerja dan orang-orang di sekitar tewas tersengat listrik di kota-kota di seluruh negeri. Kota-kota memperdebatkan apakah eksperimen itu harus dihentikan sepenuhnya. Sebaliknya, seiring kemajuan teknologi, kami membentuk lembaga pengujian independen seperti Underwriters Laboratories, menetapkan standar industri seperti National Electrical Code, serta melakukan investasi publik yang menghadirkan listrik bagi komunitas yang sebelumnya ditinggalkan oleh pasar. Setiap lapisan membuat listrik lebih aman dan lebih mudah diakses; kini, listrik sudah begitu aman sehingga seorang anak dapat menekan sakelar dan lampu pun menyala.

Inilah wujud ketangguhan saat diterapkan dengan baik.

AI memerlukan ekosistem ketahanan

AI mengikuti jalur yang sama seperti teknologi-teknologi sebelumnya, tetapi bergerak dengan kecepatan yang belum pernah terjadi sebelumnya.

AI masih berada pada tahap awal, tetapi manfaatnya sudah jelas: AI menurunkan hambatan untuk memulai bisnis, memperluas akses ke pendidikan, mempercepat penemuan ilmiah, dan mentransformasi dunia kedokteran.

Pada saat yang sama, risiko-risiko tersebut muncul sama cepatnya—dan seolah menjadi cerminan terbalik dari manfaat AI. Pertumbuhan yang sama yang menciptakan industri baru juga dapat mengguncang industri yang sudah ada dan mengganggu karier. Sistem yang sama yang dapat membantu kaum muda belajar dan berkreasi juga dapat mengarah pada perilaku yang merugikan. Alat-alat yang mempercepat penelitian biologi dapat menurunkan hambatan untuk menciptakan patogen berbahaya. Dan kemampuan AI untuk menulis kode, jika jatuh ke tangan yang salah, dapat mengancam infrastruktur kritis.

Tim awal OpenAI meyakini bahwa memastikan AI bermanfaat bagi masyarakat terutama bergantung pada penyelesaian masalah penyelarasan teknis. Hal itu tetap krusial—dan menjadi inti dari pekerjaan kami—tetapi kini kami meyakini bahwa hal tersebut hanyalah salah satu bagian dari teka-teki. Seiring AI menyebar ke berbagai sektor dan negara, masyarakat juga akan membutuhkan penelitian independen, infrastruktur publik, koordinasi industri, dan bidang keahlian yang sepenuhnya baru. Singkatnya, hal ini akan membutuhkan ketahanan AI.

Kami telah memilih untuk memfokuskan pekerjaan awal kami pada empat bidang^2⁠ yang berada di titik temu antara risiko besar dalam waktu dekat dan dampak langsung:

1. Resiliensi hayati untuk membantu mencegah pandemi yang direkayasa di masa depan;

2. Ketahanan siber untuk berupaya memastikan keamanan sistem kritis dunia kita;

3. Keamanan model AI untuk memperkuat kendali umat manusia atas model yang kita ciptakan; dan

4. Dampak AI terhadap generasi muda untuk membantu menjadikan teknologi sebagai kekuatan positif bagi generasi mendatang.

Pekerjaan kami baru dimulai. Kami berencana untuk membagikan informasi lebih lanjut tentang strategi dan hibah awal kami di setiap bidang, serta memperluasnya ke bidang lain seiring waktu.

Ketahanan hayati

AI akan memungkinkan riset biologi bergerak dengan kecepatan yang belum pernah terjadi sebelumnya, membantu mengembangkan pengobatan baru dan peningkatan kesehatan masyarakat yang memungkinkan kita semua hidup lebih sehat dan lebih lama. Namun, kemampuan yang sama ini juga dapat disalahgunakan oleh aktor jahat, sehingga menurunkan hambatan untuk merancang patogen berbahaya.

Era AI memerlukan fokus yang diperbarui pada keamanan hayati. Karena sistem AI canggih dapat disalahgunakan oleh pelaku berniat buruk untuk membantu menciptakan berbagai ancaman biologis, kami akan memprioritaskan solusi biosekuriti yang tidak bergantung pada patogen tertentu. Hal ini akan membutuhkan investasi di seluruh bidang pencegahan, deteksi, dan pertahanan. Kami perlu mempersulit pelaku berniat jahat untuk mengakses keahlian, peralatan, dan bahan yang diperlukan untuk menciptakan ancaman biologis, meningkatkan kemampuan kami untuk mengidentifikasi dan melacak wabah baru sejak dini, serta memperkuat teknologi—seperti alat pelindung, sistem pembersih udara dalam ruangan, dan upaya penanggulangan medis—yang diperlukan untuk merespons dengan cepat dan efektif.

Ketahanan siber

AI telah mulai dengan cepat mengubah lingkungan keamanan siber. Pekerjaan yang dahulu memerlukan tim khusus kini dapat dibantu atau diotomatisasi oleh model yang mumpuni. Pada saat yang sama, kemampuan AI yang meningkat pesat juga dapat digunakan untuk mempercepat kerja para pembela siber, termasuk dengan mengidentifikasi dan menambal kerentanan serta mempercepat respons.

Banyak perusahaan besar dan aktor swasta dapat mengeluarkan dana besar untuk keamanan siber guna mengamankan sistem mereka sendiri, termasuk dengan memanfaatkan kemajuan baru dalam AI. Kami memperkirakan akan memfokuskan sumber daya yang signifikan untuk mengamankan aktor-aktor penting lainnya dalam masyarakat yang memiliki sumber daya lebih terbatas dan akan jauh lebih kesulitan menerapkan pertahanan siber yang siap menghadapi AI secepat yang diperlukan. Secara paralel, kami juga berfokus untuk bersiap menghadapi tantangan keamanan baru yang pada akhirnya akan dibawa oleh kecerdasan umum buatan.

Keamanan model AI

Keselamatan model AI berfokus pada perilaku sistem itu sendiri—apakah sistem tersebut jujur, andal, dan selaras dengan maksud manusia. Di dunia ketika hal ini menjadi kacau, model dapat lepas kendali dan berperilaku dengan cara yang tidak dapat diprediksi, menipu kami atau mengejar tujuan di luar rancangan mereka. Memastikan hal ini dilakukan dengan benar menjadi semakin penting seiring sistem AI menjadi lebih otonom dan mendekati—dan pada akhirnya melampaui—kecerdasan setingkat manusia.

Perusahaan AI menginvestasikan sumber daya yang besar dalam keamanan model. Namun, pentingnya tantangan ini menuntut ekosistem yang lebih luas dan lebih tangguh: lembaga independen untuk mengevaluasi keamanan model, infrastruktur publik untuk memverifikasi penerapan model yang aman dalam praktik, serta kemajuan berkelanjutan dalam ilmu penyelarasan yang memajukan bidang ini secara luas.

Dampak AI terhadap kaum muda

Anak muda sering kali menjadi pihak yang paling awal mengadopsi teknologi baru, menggunakannya untuk belajar, berkreasi, berkomunikasi, dan menjelajahi dunia. Demikian juga AI. Namun, seiring alat-alat ini semakin menjadi bagian dari kehidupan sehari-hari generasi muda, sangat penting untuk membangun dasar bukti yang lebih kuat guna memahami dampaknya.

Keluarga, sekolah, pembuat kebijakan, dan organisasi masyarakat sama-sama sedang berupaya memahami berbagai pertanyaan tentang bagaimana dan kapan generasi muda berinteraksi dengan AI—termasuk dampaknya terhadap hubungan antarmanusia, pembelajaran, dan perkembangan mereka. Fokus awal kami adalah memajukan riset independen untuk membantu memandu keputusan-keputusan tersebut—agar dapat lebih memahami di mana AI dapat mendukung pembangunan, risiko yang mungkin ditimbulkannya, dan konteks yang membentuk dampak-dampak tersebut.

Berbagai insight ini seharusnya menjadi dasar bagi standar keamanan dan prinsip desain yang luas untuk memandu bagaimana setiap produk AI dikembangkan, bagaimana sekolah memilih untuk menerapkannya, serta apakah dan bagaimana keluarga memutuskan untuk mengintegrasikan teknologi tersebut ke dalam kehidupan mereka.

Pekerjaan ke depan

Ada satu perbedaan krusial antara AI dan teknologi-teknologi yang mendahuluinya: kecepatan.

Ketahanan terhadap api membutuhkan waktu ribuan tahun. Ketahanan listrik memakan waktu puluhan tahun. Resiliensi AI berkembang dalam hitungan tahun. Sistem-sistem yang membuatnya aman, andal, dan bermanfaat secara luas harus dibangun bersamaan dengannya.

Jika kita dapat mengelolanya dengan tepat, AI dapat menjadi bagian dari infrastruktur dasar kehidupan modern—memperluas akses terhadap pengetahuan, mempercepat penemuan, dan meningkatkan kualitas hidup dalam skala global.

Namun, hasil tersebut tidak dijamin. Tidak ada teknologi serbaguna yang pernah membuat dirinya sendiri aman.

Ketahanan adalah disiplin yang bersifat permanen dan memerlukan banyak orang serta lembaga untuk membangun, berinvestasi, dan berkolaborasi. Itulah pekerjaan yang ada di depan kita, dan itu adalah salah satu tantangan yang menentukan pada masa kita. Kami harap Anda bergabung dengan kami.