חוסן בעידן הבינה המלאכותית

OpenAI Foundation קיימת כדי להבטיח שבינה מלאכותית כללית תועיל לאנושות כולה.

אנחנו פועלים ללא לאות כדי לעמוד בקצב ההתקדמות המהיר של הבינה המלאכותית עצמה. באפריל הכריזה⁠ הקרן על מענקים ראשונים בסך 100 מיליון דולר במסגרת תוכנית מדעי החיים וריפוי מחלות, מתוך שאיפה לסייע במניעה ובטיפול במחלות כמו אלצהיימר באמצעות בינה מלאכותית מתקדמת. בשבוע שעבר הכרזנו⁠ על תוכנית התעסוקה והעתיד הכלכלי שלנו, בתקווה להבין ולעצב את משמעותם של עבודה ושגשוג כלכלי עבור הדורות הבאים.

היום אנחנו מרחיבים על החזון שלנו לתוכנית הגדולה הבאה: להבטיח שככל שיכולות הבינה המלאכותית גדלות, יכולתה של החברה לרתום אותה לתועלתה תגדל באותו קצב. אנחנו מכנים את העשייה הזאת חוסן בעידן הבינה המלאכותית: גישה מערכתית הנדרשת לצמצום הסיכונים של בינה מלאכותית, כדי שהחברה תוכל להפיק ממנה את מרב התועלת.

העבודה שלנו כבר החלה. בחודשים הספורים מאז תחילת פעילותנו, הקרן כבר פועלת להשלמת אישורם של מענקים בסך יותר מ־130 מיליון דולר לארגונים במסגרת תוכנית החוסן בעידן הבינה המלאכותית. נפרסם את פרטיהם בקרוב, ומענקים נוספים יגיעו בהמשך.^1⁠

הדפוס החוזר של טכנולוגיות משנות עולם

כדי להבין היטב את חשיבותו של החוסן בעידן הבינה המלאכותית, כדאי להתבונן בטכנולוגיות עבר שהשפיעו עמוקות על ההיסטוריה האנושית.

מדי פעם מופיעה טכנולוגיה שמעצבת את החברה מחדש מן היסוד. כלכלנים מכנים אותן ״טכנולוגיות לשימוש כללי״. האש. מכונת הדפוס. החשמל. האינטרנט. כולן התפתחו במסלול דומה: חדשנות מהירה, סיכונים ממשיים ומוסדות שמנסים להדביק את הקצב. אבל כל אחת מהדוגמאות גם מלמדת מה נדרש כדי להפוך טכנולוגיה רבת־עוצמה לבטוחה.

האש אפשרה את התפתחותה של התרבות האנושית. היא חיממה אותנו, בישלה את מזוננו והגנה עלינו מפני טורפים. היא גם כילתה את ערינו עד היסוד. עם הזמן, חברות אנושיות בנו חוסן: חומרים עמידים באש, רשתות של ברזי כיבוי, שירותי כבאות מקצועיים ותקנות בנייה. מערכת שלמה, שכבה אחר שכבה.

החשמל התפתח באותו מסלול. לאחר שתחנת הכוח של אדיסון ברחוב פרל האירה את מנהטן ב־1882, החשמל הביא עימו שריפות, התחשמלויות ובהלה בציבור. ללא אמצעי הגנה כמו חוטים מבודדים, מפסקי מגן ותקנות, עובדים ועוברי אורח התחשמלו למוות בערים ברחבי ארצות הברית. בערים התנהל דיון בשאלה אם יש לזנוח את הניסוי כולו. במקום זאת, ככל שהטכנולוגיה התקדמה, הקמנו גופי בדיקה עצמאיים כמו Underwriters Laboratories, גיבשנו תקנים לתעשייה כמו תקן החשמל הלאומי של ארצות הברית, והשקענו כספי ציבור בחיבור לחשמל של קהילות שהשוק הותיר מאחור. כל שכבה הפכה את החשמל לבטוח ולנגיש יותר; כיום הוא בטוח עד כדי כך שילד יכול ללחוץ על מתג, והאור נדלק.

כך נראה חוסן כשבונים אותו נכון.

בינה מלאכותית מחייבת מערך חוסן שלם

הבינה המלאכותית מתקדמת באותו מסלול של טכנולוגיות קודמות, אבל במהירות חסרת תקדים.

אנחנו עדיין בראשית הדרך, אך התועלת כבר ברורה: בינה מלאכותית מקלה על הקמת עסקים, מרחיבה את הגישה לחינוך, מאיצה גילויים מדעיים ומשנה את פני הרפואה.

בה בעת, הסיכונים מתגלים באותה מהירות — כתמונת ראי של יתרונות הבינה המלאכותית. אותה צמיחה שיוצרת תעשיות חדשות עלולה לטלטל תעשיות קיימות ולשבש מסלולי קריירה. אותן מערכות שיכולות לעזור לצעירים ללמוד וליצור עלולות גם להוביל להתנהגות מזיקה. הכלים שמאיצים מחקר ביולוגי עלולים להקל על יצירת מחוללי מחלות מזיקים. ובידיים הלא נכונות, יכולתה של בינה מלאכותית לכתוב קוד עלולה לאיים על תשתיות קריטיות.

הצוות של OpenAI בראשית דרכה האמין שהבטחת התועלת של בינה מלאכותית לחברה תלויה בעיקר בפתרון הבעיה הטכנית של התאמתה לכוונות ולערכים אנושיים. זה עדיין חיוני, ונמצא בלב העשייה שלנו, אך כיום אנחנו מאמינים שזהו רק חלק מהתמונה. ככל שהבינה המלאכותית מתפשטת בין מגזרים ומדינות, החברה תזדקק גם למחקר עצמאי, לתשתיות ציבוריות, לתיאום בתעשייה ולתחומי מומחיות חדשים לחלוטין. בקיצור, היא תזדקק לחוסן בעידן הבינה המלאכותית.

בחרנו למקד את העבודה הראשונית שלנו בארבעה תחומים^2⁠ שבהם סיכונים משמעותיים בטווח הקרוב נפגשים עם אפשרות להשפעה מיידית:

1. חוסן ביולוגי, כדי לסייע במניעת מגפות מהונדסות בעתיד;

2. חוסן סייבר, כדי לפעול להבטחת בטיחותן של מערכות קריטיות ברחבי העולם;

3. בטיחות מודלים של בינה מלאכותית, כדי לבסס את שליטת האנושות במודלים שאנו יוצרים; וכן

4. השפעת הבינה המלאכותית על צעירים, כדי לסייע להפוך את הטכנולוגיה לכוח חיובי עבור הדורות הבאים.

אנחנו רק בתחילת הדרך. אנחנו מתכננים לפרסם מידע נוסף על האסטרטגיות שלנו ועל המענקים הראשונים בכל תחום, ולהתרחב לתחומים נוספים עם הזמן.

חוסן ביולוגי

בינה מלאכותית תאפשר למחקר הביולוגי להתקדם במהירות חסרת תקדים, ותסייע בפיתוח טיפולים חדשים ובשיפור בריאות הציבור, כדי שכולנו נוכל לחיות חיים בריאים וארוכים יותר. עם זאת, גורמים זדוניים עלולים לנצל לרעה את אותן יכולות ולהקל באמצעותן על תכנון מחוללי מחלות מזיקים.

עידן הבינה המלאכותית מחייב תשומת לב מחודשת לביטחון ביולוגי. מכיוון שגורמים זדוניים עלולים לנצל לרעה מערכות בינה מלאכותית מתקדמות כדי לסייע ביצירת מגוון רחב של איומים ביולוגיים, נעניק עדיפות לפתרונות ביטחון ביולוגי שאינם תלויים במחולל מחלה מסוים. לשם כך יידרשו השקעות במניעה, בזיהוי ובהגנה. עלינו להקשות על גורמים זדוניים להשיג את הידע המקצועי, הציוד והחומרים הדרושים ליצירת איומים ביולוגיים; לשפר את יכולתנו לזהות התפרצויות חדשות בשלב מוקדם ולעקוב אחריהן; ולחזק את הטכנולוגיות הנחוצות לתגובה מהירה ויעילה, כגון ציוד מגן, מערכות לטיהור אוויר בחללים סגורים ואמצעי מניעה וטיפול רפואיים.

חוסן סייבר

בינה מלאכותית החלה לשנות במהירות את תחום אבטחת הסייבר. עבודה שבעבר דרשה צוותים מומחים יכולה כיום להיעשות בסיוע מודלים בעלי יכולות מתקדמות, או להתבצע על ידם באופן אוטומטי. בה בעת, יכולות הבינה המלאכותית המשתפרות במהירות יכולות גם להאיץ את עבודתם של מגיני הסייבר, בין היתר באמצעות זיהוי ותיקון של חולשות אבטחה וקיצור זמני התגובה.

חברות גדולות וגורמים פרטיים רבים יכולים להשקיע סכומים ניכרים באבטחת סייבר כדי להגן על המערכות שלהם, בין היתר באמצעות חידושים בבינה מלאכותית. אנחנו צופים שנקדיש משאבים משמעותיים להגנה על גופים אחרים הממלאים תפקיד חשוב בחברה, שמשאביהם מצומצמים יותר ושיתקשו הרבה יותר לפרוס בקצב הנדרש הגנות סייבר המותאמות לעידן הבינה המלאכותית. במקביל, אנחנו מתמקדים גם בהיערכות לאתגרי אבטחה חדשים שבינה מלאכותית כללית צפויה להביא עימה בסופו של דבר.

בטיחות מודלים של בינה מלאכותית

בטיחות מודלים של בינה מלאכותית מתמקדת בהתנהגות המערכות עצמן — האם הן דוברות אמת, אמינות ופועלות בהתאם לכוונות אנושיות. בתרחיש שבו הדברים משתבשים, מודלים עלולים לפרוץ את המגבלות שהוצבו להם ולפעול בדרכים בלתי צפויות, להטעות אותנו או לחתור למטרות החורגות מייעודם המקורי. הבטחת הבטיחות נעשית חשובה יותר ויותר ככל שמערכות בינה מלאכותית נעשות עצמאיות יותר, מתקרבות לרמת האינטליגנציה האנושית, ובסופו של דבר אף עולות עליה.

חברות בינה מלאכותית משקיעות משאבים ניכרים בבטיחות מודלים. עם זאת, חשיבות האתגר מחייבת מערך רחב ואיתן יותר: מוסדות עצמאיים להערכת בטיחות מודלים, תשתיות ציבוריות לווידוא שפריסת המודלים בטוחה בפועל, והתקדמות מתמשכת במחקר התאמת הבינה המלאכותית לכוונות ולערכים אנושיים, שתקדם את התחום כולו.

השפעת הבינה המלאכותית על צעירים

צעירים הם לרוב הראשונים לאמץ טכנולוגיות חדשות, והם משתמשים בהן כדי ללמוד, ליצור, לתקשר ולגלות את העולם. בינה מלאכותית אינה יוצאת מן הכלל. אך ככל שהכלים האלה תופסים מקום מרכזי יותר בחיי היומיום של צעירים, חיוני לבסס תשתית ראיות מוצקה יותר להבנת השפעותיהם.

משפחות, בתי ספר, קובעי מדיניות וארגונים קהילתיים מתמודדים כולם עם שאלות על האופן והמועד שבהם צעירים משתמשים בבינה מלאכותית — ובכלל זה השפעתה על קשרים אנושיים, למידה והתפתחות. בתחילת הדרך נתמקד בקידום מחקר עצמאי שיסייע בקבלת ההחלטות האלה: להבין טוב יותר היכן בינה מלאכותית יכולה לתמוך בהתפתחות, אילו סיכונים היא עלולה ליצור, ואילו נסיבות מעצבות את ההשפעות האלה.

התובנות האלה צריכות לשמש בסיס לתקני בטיחות רחבים ולעקרונות תכנון שינחו את פיתוחו של כל מוצר בינה מלאכותית, את החלטות בתי הספר לגבי אופן הטמעתם של מוצרים כאלה, ואת החלטות המשפחות אם וכיצד לשלב את הטכנולוגיות האלה בחייהן.

המשימה שלפנינו

יש הבדל מכריע אחד בין בינה מלאכותית לבין הטכנולוגיות שקדמו לה: המהירות.

בניית חוסן מפני אש ארכה אלפי שנים. בניית חוסן בתחום החשמל ארכה עשרות שנים. החוסן בעידן הבינה המלאכותית מתפתח בתוך שנים ספורות. את המערכות שהופכות אותה לבטוחה, אמינה ומועילה לציבור הרחב צריך לבנות במקביל להתפתחותה.

אם נעשה זאת נכון, בינה מלאכותית יכולה להפוך לחלק מתשתיות היסוד של החיים המודרניים — להרחיב את הגישה לידע, להאיץ גילויים ולשפר את חייהם של אנשים ברחבי העולם.

אבל התוצאה הזאת אינה מובטחת. שום טכנולוגיה לשימוש כללי לא הפכה לבטוחה מעצמה.

בניית חוסן היא עשייה מתמשכת המחייבת אנשים ומוסדות רבים לבנות, להשקיע ולשתף פעולה. זוהי המשימה שלפנינו, והיא אחד האתגרים המגדירים את תקופתנו. אנחנו מקווים שתצטרפו אלינו.