پایداری در عصر AI

بنیاد OpenAI وجود دارد تا اطمینان حاصل کند که هوش مصنوعی عمومی به سود همهٔ بشریت باشد.

ما بی‌وقفه تلاش کرده‌ایم تا همگام با پیشرفت‌های سریع خود AI حرکت کنیم. در ماه آوریل، بنیاد نخستین کمک‌های مالی ۱۰۰ میلیون دلاری ما در حوزه علوم زیستی و درمان بیماری‌ها را اعلام کرد⁠، با این هدف بلندپروازانه که با بهره‌گیری از AI پیشرفته به پیشگیری و درمان بیماری‌هایی مانند آلزایمر کمک کند. هفتهٔ گذشته، برنامهٔ مشاغل و آینده‌های اقتصادی خود را اعلام کردیم⁠، با این امید که دریابیم و شکل دهیم که کار و شکوفایی اقتصادی برای نسل‌های آینده چه معنایی خواهد داشت.

امروز، ما چشم‌انداز خود را برای برنامهٔ بزرگ بعدی گسترش می‌دهیم—تا اطمینان حاصل کنیم که با افزایش توانمندی‌های AI، توانایی جامعه برای به‌کارگیری آن نیز به همان سرعت رشد خواهد کرد. ما این کار را پایداری AI می‌نامیم: رویکرد زیست‌بومیِ لازم برای کاهش خطرات AI، تا جامعه بتواند مزایای آن را به حداکثر برساند.

کار ما از هم‌اکنون آغاز شده است. در چند ماه کوتاهی که از آغاز فعالیت‌های ما می‌گذرد، بنیاد در حال نهایی‌کردن بیش از ۱۳۰ میلیون دلار کمک مالی به سازمان‌ها از طریق برنامهٔ پایداری AI خود است؛ جزئیات آن به‌زودی به‌صورت عمومی اعلام خواهد شد و موارد بیشتری نیز در راه است.^1⁠

الگوی فناوری‌های تحول‌آفرین

اهمیت پایداری AI را زمانی بهتر می‌توان درک کرد که از دریچهٔ فناوری‌های گذشته‌ای به آن بنگریم که به‌طور معناداری تاریخ بشر را شکل داده‌اند.

هر از گاهی، فناوری‌ای از راه می‌رسد که جامعه را از پایه و اساس دگرگون می‌کند. اقتصاددانان این‌ها را «فناوری‌های همه‌منظوره» می‌نامند. آتش. دستگاه چاپ. برق. اینترنت. هرکدام مسیر مشابهی را طی کردند: نوآوری سریع، خطرات واقعی، و نهادهایی که برای همگام‌شدن شتاب می‌گرفتند. اما هر نمونه این را نیز نشان می‌دهد که برای ایمن‌سازی یک فناوری قدرتمند چه چیزهایی لازم است.

آتش تمدن انسانی را ممکن ساخت. ما را گرم نگه می‌داشت، غذایمان را می‌پخت و از ما در برابر درندگان محافظت می‌کرد. همچنین شهرهای ما را به آتش کشید و با خاک یکسان کرد. با گذشت زمان، جوامع پایداری خود را افزایش دادند: مصالح مقاوم در برابر آتش، شبکه‌های شیرهای آتش‌نشانی، سازمان‌های آتش‌نشانی حرفه‌ای و آیین‌نامه‌های ساختمانی. یک اکوسیستم، لایه‌به‌لایه.

برق نیز همین مسیر را پیمود. پس از راه‌اندازی نیروگاه Pearl Street Station ادیسون و آغاز برق‌رسانی به منهتن در سال ۱۸۸۲، برق با آتش‌سوزی‌ها، برق‌گرفتگی‌ها و نگرانی عمومی همراه بود. بدون تمهیدات حفاظتی مانند سیم‌های عایق‌دار، فیوزها و آیین‌نامه‌ها، کارگران و رهگذران در شهرهای سراسر کشور دچار برق‌گرفتگی می‌شدند. شهرها دربارهٔ اینکه آیا این آزمایش باید به‌کلی کنار گذاشته شود یا خیر، بحث می‌کردند. در عوض، با پیشرفت فناوری، ما نهادهای مستقل آزمون و ارزیابی مانند آزمایشگاه‌های آندررایترز (Underwriters Laboratories)، استانداردهای صنعتی مانند آیین‌نامه ملی برق (National Electrical Code)، و سرمایه‌گذاری عمومی را ایجاد کردیم که برق را به جوامعی رساند که بازار آن‌ها را نادیده گرفته بود. هر لایه برق را ایمن‌تر و در دسترس‌تر کرد؛ امروز، برق آن‌قدر ایمن است که یک کودک می‌تواند کلیدی را بزند و چراغ روشن شود.

پایداری، وقتی به‌درستی محقق شود، چنین جلوه‌ای دارد.

AI به یک اکوسیستم پایداری نیاز دارد

AI همان مسیر فناوری‌های پیشین را دنبال می‌کند، اما با سرعتی بی‌سابقه پیش می‌رود.

ما هنوز در آغاز این مسیر هستیم، اما مزایای آن از همین حالا آشکار است: AI موانع راه‌اندازی کسب‌وکار را کاهش می‌دهد، دسترسی به آموزش را گسترش می‌دهد، به کشفیات علمی شتاب می‌بخشد و پزشکی را متحول می‌کند.

در عین حال، خطرات نیز درست با همان سرعت پدیدار می‌شوند—و درست مانند بازتابی آینه‌ای از مزایای AI هستند. همان رشدی که صنایع جدیدی ایجاد می‌کند، می‌تواند صنایع موجود را دگرگون کند و مسیرهای شغلی را مختل سازد. همان سامانه‌هایی که می‌توانند به نوجوانان کمک کنند یاد بگیرند و خلق کنند، ممکن است به رفتارهای نامطلوب نیز بینجامند. ابزارهایی که پژوهش‌های زیستی را سرعت می‌بخشند، ممکن است مانع ایجاد عوامل بیماری‌زای مضر را کاهش دهند. و توانایی AI در نوشتن کد، اگر به دست افراد نادرست بیفتد، می‌تواند زیرساخت‌های حیاتی را تهدید کند.

تیم اولیهٔ OpenAI باور داشت که تضمین بهره‌مندی جامعه از AI، عمدتاً به حل مسئلهٔ فنی هم‌راستاسازی وابسته است. این موضوع همچنان حیاتی—و محور کار ما—است، اما اکنون بر این باوریم که تنها بخشی از این معماست. با گسترش AI در بخش‌ها و کشورها، جامعه به پژوهش مستقل، زیرساخت عمومی، هماهنگی صنعتی و حوزه‌های کاملاً تازه‌ای از تخصص نیز نیاز خواهد داشت. به‌طور خلاصه، این امر به پایداری AI نیاز خواهد داشت.

ما تصمیم گرفته‌ایم کارهای اولیهٔ خود را بر چهار حوزه^2⁠ متمرکز کنیم که در نقطهٔ تلاقیِ ریسک‌های بزرگ و نزدیک‌مدت و اثرگذاری فوری قرار دارند:

1. پایداری زیستی برای کمک به پیشگیری از همه‌گیری‌های مهندسی‌شده در آینده؛

2. پایداری سایبری برای کمک به تضمین ایمنی سامانه‌های حیاتی جهان ما؛

3. ایمنی مدل‌های AI برای تحکیم کنترل بشریت بر مدل‌هایی که ایجاد می‌کنیم؛ و

4. تأثیر AI بر نوجوانان برای کمک به تبدیل فناوری به نیرویی مثبت برای نسل‌های آینده.

کار ما تازه شروع شده است. قصد داریم اطلاعات بیشتری درباره راهبردها و کمک‌های مالی اولیه‌مان در هر حوزه به اشتراک بگذاریم و به‌مرور زمان فعالیت خود را به حوزه‌های دیگر نیز گسترش دهیم.

پایداری زیستی

AI پژوهش‌های زیستی را قادر می‌سازد با سرعتی بی‌سابقه پیش بروند و به توسعهٔ درمان‌های جدید و بهبودهای سلامت عمومی کمک می‌کند؛ بهبودهایی که به همهٔ ما امکان می‌دهند سالم‌تر و طولانی‌تر زندگی کنیم. با این حال، همین قابلیت‌ها می‌توانند توسط بازیگران مخرب نیز مورد سوءاستفاده قرار گیرند و موانع طراحی عوامل بیماری‌زای زیان‌بار را کاهش دهند.

عصر AI مستلزم تمرکز مجدد بر امنیت زیستی است. از آنجا که سامانه‌های پیشرفتهٔ AI می‌توانند توسط عاملان مخرب برای کمک به ایجاد طیف گسترده‌ای از تهدیدهای زیستی مورد سوءاستفاده قرار گیرند، ما راهکارهای امنیت زیستیِ مستقل از نوع عامل بیماری‌زا را در اولویت قرار خواهیم داد. این امر مستلزم سرمایه‌گذاری در زمینه‌های پیشگیری، تشخیص و دفاع خواهد بود. باید دسترسی عاملان مخرب به تخصص، تجهیزات و مواد لازم برای ایجاد تهدیدهای زیستی را دشوارتر کنیم، توانایی خود را برای شناسایی و ردیابی زودهنگام همه‌گیری‌های نوظهور بهبود بخشیم و فناوری‌های لازم برای واکنش سریع و مؤثر—مانند تجهیزات حفاظتی، سامانه‌های پاک‌سازی هوای داخلی و اقدامات متقابل پزشکی—را تقویت کنیم.

پایداری سایبری

هوش مصنوعی به‌سرعت شروع به دگرگون‌کردن چشم‌انداز امنیت سایبری کرده است. کاری که زمانی به تیم‌های تخصصی نیاز داشت، اکنون می‌تواند به کمک مدل‌های توانمند انجام شود یا خودکار شود. در عین حال، توانمندی‌های هوش مصنوعی که به‌سرعت در حال پیشرفت‌اند، می‌توانند به مدافعان سایبری نیز سرعت ببخشند؛ از جمله از طریق شناسایی و وصله‌کردن آسیب‌پذیری‌ها و تسریع واکنش.

بسیاری از شرکت‌های بزرگ و عاملان خصوصی می‌توانند برای تأمین امنیت سامانه‌های خود، از جمله با بهره‌گیری از پیشرفت‌های جدید در AI، هزینه‌های قابل‌توجهی در حوزهٔ سایبری صرف کنند. پیش‌بینی می‌کنیم منابع قابل‌توجهی را صرف ایمن‌سازی دیگر عاملان مهم اجتماعی کنیم؛ عاملانی که از منابع کمتری برخوردارند و استقرار پدافندهای سایبریِ آماده برای AI با سرعت موردنیاز، برای آن‌ها بسیار دشوارتر خواهد بود. به موازات آن، ما همچنین بر ایجاد آمادگی برای چالش‌های امنیتی نوظهوری متمرکز هستیم که هوش مصنوعی عمومی در نهایت به همراه خواهد آورد.

ایمنی مدل AI

ایمنی مدل‌های AI بر رفتار خودِ سامانه‌ها تمرکز دارد—اینکه آیا راستگو، قابل‌اعتماد و هم‌راستا با نیت انسان هستند یا خیر. در جهانی که این روند از مسیر درست خارج شود، مدل‌ها می‌توانند از کنترل خارج شوند و به شیوه‌هایی غیرقابل پیش‌بینی رفتار کنند، ما را فریب دهند یا اهدافی فراتر از آنچه برای آن‌ها طراحی شده است دنبال کنند. اهمیت درست انجام‌دادن این کار، با خودمختارتر شدن سامانه‌های AI و نزدیک‌شدن آن‌ها به هوشی در سطح انسان—و در نهایت فراتر رفتن از آن—روزبه‌روز بیشتر می‌شود.

شرکت‌های AI منابع قابل‌توجهی را در ایمنی مدل‌ها سرمایه‌گذاری می‌کنند. بااین‌حال، اهمیت این چالش اکوسیستمی گسترده‌تر و قوی‌تر را ایجاب می‌کند: نهادهای مستقلی برای ارزیابی ایمنی مدل‌ها، زیرساخت عمومی برای راستی‌آزمایی استقرار ایمن مدل‌ها در عمل و پیشرفت‌های مستمر در علم هم‌راستاسازی که به پیشبرد گستردهٔ این حوزه کمک کند.

تأثیر AI بر جوانان

جوانان اغلب از نخستین کسانی هستند که فناوری‌های جدید را به‌کار می‌گیرند و از آن‌ها برای یادگیری، خلق کردن، ارتباط برقرار کردن و کشف جهان استفاده می‌کنند. AI نیز از این قاعده مستثنی نیست. اما با تبدیل شدن این ابزارها به بخشی فزاینده از زندگی روزمرهٔ جوانان، بسیار مهم است که پشتوانهٔ شواهد قوی‌تری ایجاد کنیم تا تأثیرات آن‌ها را درک کنیم.

خانواده‌ها، مدارس، سیاست‌گذاران و سازمان‌های اجتماعی همگی با پرسش‌هایی درباره اینکه جوانان چگونه و چه زمانی با هوش مصنوعی تعامل می‌کنند—از جمله تأثیر آن بر ارتباط انسانی، یادگیری و رشد—دست‌وپنجه نرم می‌کنند. تمرکز اولیه ما بر پیشبرد پژوهش مستقل خواهد بود تا به هدایت آن تصمیم‌ها کمک کند—برای درک بهتر اینکه هوش مصنوعی کجا می‌تواند از توسعه پشتیبانی کند، چه خطراتی ممکن است به همراه داشته باشد، و چه زمینه‌هایی این اثرها را شکل می‌دهند.

این یافته‌ها باید مبنای تدوین استانداردهای فراگیر ایمنی و اصول طراحی قرار گیرند که نحوه توسعه هر محصول AI، چگونگی تصمیم‌گیری مدارس برای به‌کارگیری آن‌ها، و اینکه آیا و چگونه خانواده‌ها تصمیم می‌گیرند این فناوری‌ها را وارد زندگی خود کنند، هدایت می‌کنند.

کار پیش رو

میان AI و فناوری‌های پیش از آن یک تفاوت حیاتی وجود دارد: سرعت.

پایداری در برابر آتش هزاران سال طول کشید. پایداری در برابر برق دهه‌ها طول کشید. پایداری AI در عرض چند سال در حال تکامل است. سامانه‌هایی که AI را ایمن، قابل‌اعتماد و برای همگان سودمند می‌سازند، باید هم‌زمان با خود آن ساخته شوند.

اگر این مسیر را درست پیش ببریم، AI می‌تواند به بخشی از زیرساخت‌های بنیادین زندگی مدرن تبدیل شود—دسترسی به دانش را گسترش دهد، روند کشف را شتاب بخشد و زندگی‌ها را در مقیاسی جهانی بهبود دهد.

اما تحقق این نتیجه تضمین‌شده نیست. هیچ فناوری همه‌منظوره‌ای هرگز به‌خودیِ خود ایمن نشده است.

تاب‌آوری نظمی دائمی است که برای ایجاد آن، سرمایه‌گذاری در آن و همکاری پیرامون آن، به افراد و نهادهای بسیاری نیاز است. این همان کاری است که پیش رو داریم، و یکی از چالش‌های تعیین‌کننده دوران ماست. امیدواریم به ما بپیوندید.