एआई के युग में लचीलापन

OpenAI Foundation का उद्देश्य यह सुनिश्चित करना है कि आर्टिफ़िशियल जेनरल इंटेलिजेंस पूरी मानवता के लिए लाभकारी हो.

हम एआई में हो रही तेज़ प्रगति के साथ तालमेल बनाए रखने के लिए अथक रूप से काम कर रहे हैं. अप्रैल में, फ़ाउंडेशन ने उन्नत AI का उपयोग करके अल्ज़ाइमर जैसी बीमारियों की रोकथाम और उपचार में मदद करने की महत्वाकांक्षा के साथ, जीवन विज्ञान और रोगों के उपचार के क्षेत्र में हमारे पहले $100 मिलियन के अनुदानों की घोषणा की⁠ . पिछले सप्ताह, हमने अपने रोज़गार और आर्थिक भविष्य कार्यक्रम की घोषणा की⁠, इस आशा के साथ कि हम यह समझ सकें और आकार दे सकें कि भावी पीढ़ियों के लिए काम और आर्थिक समृद्धि के क्या मायने होंगे.

आज, हम अगले प्रमुख कार्यक्रम के लिए अपने विज़न को और विस्तार दे रहे हैं—यह सुनिश्चित करते हुए कि जैसे-जैसे एआई की क्षमताएँ बढ़ें, समाज की उसे उपयोग में लाने की क्षमता भी उतनी ही तेज़ी से बढ़े. हम इस कार्य को एआई सहनशीलता कहते हैं: एआई के जोखिमों को कम करने के लिए आवश्यक पारिस्थितिकी-तंत्र आधारित दृष्टिकोण, ताकि समाज इसके लाभों को अधिकतम कर सके.

हमारा काम पहले ही शुरू हो चुका है. अपना काम शुरू करने के कुछ ही महीनों में, फ़ाउंडेशन हमारे AI Resilience कार्यक्रम के माध्यम से संगठनों को ₹130 मिलियन से अधिक के अनुदान अंतिम रूप देने की दिशा में काम कर रहा है, जिनकी जानकारी जल्द ही सार्वजनिक रूप से साझा की जाएगी और आगे और भी अनुदान दिए जाएंगे।^1⁠

परिवर्तनकारी प्रौद्योगिकियों का प्रतिरूप

एआई के लचीलेपन का महत्व उन पिछली तकनीकों के दृष्टिकोण से सबसे अच्छी तरह समझा जा सकता है, जिन्होंने मानव इतिहास को सार्थक रूप से आकार दिया.

समय-समय पर, कोई तकनीक सामने आती है जो समाज को बुनियादी स्तर से नया रूप दे देती है. अर्थशास्त्री इन्हें “सामान्य प्रयोजन तकनीकें” कहते हैं. आग. मुद्रण यंत्र. बिजली. इंटरनेट. प्रत्येक ने एक समान क्रम का पालन किया: तेज़ नवाचार, वास्तविक जोखिम, और संस्थान तेजी से तालमेल बिठाने की कोशिश कर रहे हैं. लेकिन प्रत्येक उदाहरण यह भी दिखाता है कि किसी शक्तिशाली तकनीक को सुरक्षित बनाने के लिए क्या आवश्यक होता है.

आग ने मानव सभ्यता को संभव बनाया. इसने हमें गर्म रखा, हमारा भोजन पकाया और हमें शिकारी जानवरों से बचाया. इसने हमारे शहरों को भी पूरी तरह जलाकर राख कर दिया. समय के साथ, समाजों ने अपनी सहनशीलता विकसित की: आग-प्रतिरोधी सामग्री, हाइड्रेंट नेटवर्क, पेशेवर अग्निशमन विभाग और भवन संहिताएं. एक पारिस्थितिकी तंत्र, परत दर परत.

बिजली भी उसी रास्ते पर आगे बढ़ी. 1882 में एडिसन के पर्ल स्ट्रीट स्टेशन ने मैनहैटन को रोशन किया, जिसके बाद बिजली ने आग, करंट लगने से मौतें, और जनता में दहशत फैलाई. इंसुलेटेड तारों, सर्किट ब्रेकरों और विद्युत संहिताओं जैसे सुरक्षा उपायों के बिना, देश भर के शहरों में कामगार और आसपास मौजूद लोग करंट लगने से मारे गए. शहरों ने इस बात पर बहस की कि क्या प्रयोग को पूरी तरह छोड़ दिया जाना चाहिए. इसके बजाय, जैसे-जैसे तकनीक उन्नत हुई, हमने अंडरराइटर्स लैबोरेटरीज़ जैसी स्वतंत्र परीक्षण संस्थाएँ, नेशनल इलेक्ट्रिकल कोड जैसे उद्योग मानक, और ऐसा सार्वजनिक निवेश स्थापित किया, जिसने उन समुदायों तक बिजली पहुंचाई, जिन्हें बाज़ार पीछे छोड़ चुका था. हर परत ने बिजली को अधिक सुरक्षित और अधिक सुलभ बनाया. आज यह इतनी सुरक्षित है कि एक बच्चा स्विच दबाता है और रोशनी हो जाती है.

जब लचीलापन अच्छी तरह से किया जाता है, तो ऐसा दिखता है.

AI के लिए रेज़िलिएंस इकोसिस्टम आवश्यक है

एआई पिछली तकनीकों के समान ही विकास-पथ पर चल रहा है, लेकिन अभूतपूर्व गति से आगे बढ़ रहा है.

हम अभी भी इसके शुरुआती दौर में हैं, लेकिन इसके लाभ पहले से ही स्पष्ट हैं: AI व्यवसाय शुरू करने की बाधाओं को कम कर रहा है, शिक्षा तक पहुँच का विस्तार कर रहा है, वैज्ञानिक खोजों को तेज़ कर रहा है, और चिकित्सा के क्षेत्र में क्रांति ला रहा है.

साथ ही, जोखिम भी ठीक उतनी ही तेज़ी से उभर रहे हैं—और AI के लाभों के ठीक उलट प्रतिबिंब की तरह. वही विकास, जो नए उद्योगों को जन्म देता है, मौजूदा उद्योगों में उथल-पुथल मचा सकता है और करियर को बाधित कर सकता है. वही प्रणालियां जो युवाओं को सीखने और सृजन करने में मदद कर सकती हैं, हानिकारक व्यवहार का कारण भी बन सकती हैं. जैविक अनुसंधान को तेज़ करने वाले उपकरण हानिकारक रोगजनकों के निर्माण की बाधा को कम कर सकते हैं. और गलत हाथों में पड़ने पर, एआई की कोड लिखने की क्षमता महत्वपूर्ण अवसंरचना के लिए खतरा पैदा कर सकती है.

OpenAI की शुरुआती टीम का मानना था कि AI से समाज को लाभ मिलना सुनिश्चित करना मुख्य रूप से तकनीकी अलाइनमेंट समस्या को हल करने पर निर्भर करता है. यह अब भी बेहद महत्वपूर्ण है—और हमारे काम के केंद्र में है—लेकिन अब हमारा मानना है कि यह पूरी तस्वीर का केवल एक हिस्सा है. जैसे-जैसे एआई विभिन्न क्षेत्रों और देशों में फैलती जाएगी, समाज को स्वतंत्र शोध, सार्वजनिक अवसंरचना, उद्योग समन्वय और विशेषज्ञता के पूरी तरह नए क्षेत्रों की भी आवश्यकता होगी. संक्षेप में, इसके लिए एआई की सहनशीलता की आवश्यकता होगी.

हमने अपने प्रारंभिक कार्य को उन चार क्षेत्रों^2⁠ पर केंद्रित करने का निर्णय लिया है, जो बड़े, निकट-अवधि के जोखिमों और तत्काल प्रभाव के संगम पर स्थित हैं:

1. जैव-लचीलापन, ताकि भविष्य की इंजीनियर्ड महामारियों को रोकने में मदद मिल सके;

2. साइबर रेज़िलिएंस ताकि हमारी दुनिया की महत्वपूर्ण प्रणालियों की सुरक्षा सुनिश्चित की जा सके;

3. AI मॉडल सुरक्षा ताकि हमारे द्वारा बनाए गए मॉडल पर मानवता का नियंत्रण मजबूत हो; और

4. युवाओं पर एआई का प्रभाव ताकि तकनीक को आने वाली पीढ़ियों के लिए एक सकारात्मक शक्ति बनाने में मदद मिल सके.

हमारा काम अभी शुरू हुआ है. हमारी योजना है कि हम प्रत्येक क्षेत्र में अपनी रणनीतियों और प्रारंभिक अनुदानों के बारे में और जानकारी साझा करें, और समय के साथ अन्य क्षेत्रों में विस्तार करें.

बायो-रेज़िलिएंस

AI जैविक अनुसंधान को अभूतपूर्व गति से आगे बढ़ाने में सक्षम करेगा, जिससे नए उपचार विकसित करने और सार्वजनिक हेल्थ में सुधार करने में मदद मिलेगी, जो हम सभी को अधिक स्वस्थ और लंबा जीवन जीने में सक्षम बनाएगा. हालांकि, इन्हीं क्षमताओं का दुर्भावनापूर्ण लोगों द्वारा दुरुपयोग भी किया जा सकता है, जिससे हानिकारक रोगजनकों को बनाने की प्रक्रिया आसान हो जाती है.

AI के युग में जैव सुरक्षा पर नए सिरे से ध्यान देना आवश्यक है. क्योंकि उन्नत एआई प्रणालियों का दुर्भावनापूर्ण तत्वों द्वारा जैविक खतरों की एक विस्तृत श्रृंखला बनाने में मदद के लिए दुरुपयोग किया जा सकता है, इसलिए हम रोगजनक-निरपेक्ष जैव सुरक्षा समाधानों को प्राथमिकता देंगे. इसके लिए रोकथाम, पहचान और रक्षा के क्षेत्रों में निवेश की आवश्यकता होगी. हमें दुर्भावनापूर्ण तत्वों के लिए जैविक खतरे पैदा करने हेतु आवश्यक विशेषज्ञता, उपकरणों और सामग्रियों तक पहुंच को कठिन बनाना होगा, नए प्रकोपों की जल्द पहचान करने और उन्हें ट्रैक करने की अपनी क्षमता में सुधार करना होगा, और उन तकनीकों—जैसे सुरक्षात्मक उपकरण, इनडोर वायु शोधन प्रणालियां, और चिकित्सा प्रतिकारात्मक उपाय—को मजबूत करना होगा, जिनकी तुरंत और प्रभावी ढंग से प्रतिक्रिया देने के लिए आवश्यकता होती है.

साइबर-रेज़िलिएंस

AI ने साइबर सुरक्षा परिदृश्य को तेज़ी से नया आकार देना शुरू कर दिया है. जिस काम के लिए कभी विशेषज्ञ टीमों की आवश्यकता होती थी, उसमें अब सक्षम मॉडल सहायता कर सकते हैं या उसे स्वचालित कर सकते हैं. साथ ही, तेज़ी से बेहतर हो रही AI क्षमताओं का उपयोग साइबर रक्षकों को अधिक सक्षम बनाने के लिए भी किया जा सकता है, जिसमें कमज़ोरियों की पहचान करके और उन्हें पैच करके तथा प्रतिक्रिया को तेज़ करके मदद करना शामिल है.

कई बड़ी कंपनियां और निजी क्षेत्र के संस्थान अपने सिस्टम को सुरक्षित करने के लिए साइबर सुरक्षा पर भारी खर्च कर सकते हैं, जिसमें एआई में हुई नई प्रगतियों का उपयोग भी शामिल है. हमारा अनुमान है कि हम पर्याप्त संसाधनों को समाज के उन अन्य महत्वपूर्ण घटकों को सुरक्षित करने पर केंद्रित करेंगे, जिनके पास संसाधन अपेक्षाकृत कम हैं और जिन्हें आवश्यकता के अनुरूप उतनी शीघ्रता से एआई-तैयार साइबर रक्षा प्रणालियाँ तैनात करने में कहीं अधिक कठिनाई होगी. इसके समानांतर, हमारा ध्यान उन नई तरह की सुरक्षा चुनौतियों के लिए तैयारी करने पर भी है, जो आर्टिफ़िशियल जेनरल इंटेलिजेंस आख़िरकार लेकर आएगी.

एआई मॉडल की सुरक्षा

AI मॉडल सुरक्षा स्वयं सिस्टम के व्यवहार पर केंद्रित होती है—क्या वे सत्यपरक, विश्वसनीय और मानव इरादे के अनुरूप हैं. ऐसी दुनिया में जहां यह सब गड़बड़ा जाता है, मॉडल नियंत्रण से बाहर निकल सकते हैं और अप्रत्याशित तरीकों से व्यवहार कर सकते हैं, हमें धोखा दे सकते हैं या अपने डिज़ाइन से परे लक्ष्यों का पीछा कर सकते हैं. जैसे-जैसे एआई प्रणालियां अधिक स्वायत्त होती जाती हैं और मानव-स्तर की बुद्धिमत्ता के करीब पहुँचती हैं—और अंततः मानव-स्तर की बुद्धिमत्ता को पार कर जाती हैं—इसे सही ढंग से करना लगातार अधिक महत्वपूर्ण होता जाता है.

AI कंपनियाँ मॉडल सुरक्षा में पर्याप्त संसाधन निवेश कर रही हैं. हालांकि, इस चुनौती का महत्व एक व्यापक और अधिक मज़बूत इकोसिस्टम की मांग करता है: मॉडल सुरक्षा का मूल्यांकन करने के लिए स्वतंत्र संस्थान, व्यवहार में मॉडलों के सुरक्षित परिनियोजन को सत्यापित करने के लिए सार्वजनिक अवसंरचना, और अलाइनमेंट विज्ञान में निरंतर प्रगति जो पूरे क्षेत्र को व्यापक रूप से आगे बढ़ाए.

युवाओं पर एआई का प्रभाव

युवा अक्सर नई तकनीकों को सबसे पहले अपनाने वाले होते हैं, और उनका उपयोग सीखने, सृजन करने, संवाद करने और दुनिया को जानने-समझने के लिए करते हैं. AI भी इससे अलग नहीं है. लेकिन जैसे-जैसे ये उपकरण युवाओं के दैनिक जीवन का एक बढ़ता हुआ हिस्सा बनते जा रहे हैं, यह अत्यंत महत्वपूर्ण है कि हम उनके प्रभावों को समझने के लिए एक मजबूत साक्ष्य-आधार विकसित करें.

परिवार, स्कूल, नीति-निर्माता और सामुदायिक संगठन सभी इस सवाल से जूझ रहे हैं कि युवा लोग AI से कैसे और कब जुड़ते हैं—जिसमें मानवीय जुड़ाव, सीखने और विकास पर इसका प्रभाव भी शामिल है. हमारा प्रारंभिक ध्यान उन निर्णयों का मार्गदर्शन करने में मदद के लिए स्वतंत्र अनुसंधान को आगे बढ़ाने पर होगा—ताकि यह बेहतर ढंग से समझा जा सके कि AI विकास में कहाँ सहायता कर सकता है, इससे कौन से जोखिम उत्पन्न हो सकते हैं, और वे कौन से संदर्भ हैं जो उन प्रभावों को आकार देते हैं.

इन अंतर्दृष्टियों को व्यापक सुरक्षा मानकों और डिज़ाइन सिद्धांतों को दिशा देनी चाहिए, जो यह मार्गदर्शन करें कि किसी भी AI उत्पाद को कैसे विकसित किया जाए, स्कूल उन्हें कैसे तैनात करें, और परिवार कैसे इन तकनीकों को अपने जीवन में शामिल करें.

आगे का काम

एआई और उससे पहले की तकनीकों के बीच एक महत्वपूर्ण अंतर है: गति.

आग के प्रति सहनशीलता विकसित होने में सहस्राब्दियाँ लगीं. बिजली की सहनशीलता में दशकों लगे. एआई की सहनशीलता कुछ वर्षों में विकसित हो रही है. इसे सुरक्षित, विश्वसनीय और व्यापक रूप से लाभकारी बनाने वाली प्रणालियाँ इसके साथ-साथ ही बनाई जानी चाहिए.

अगर हम इसे सही ढंग से विकसित और लागू कर पाए, तो AI आधुनिक जीवन की बुनियादी अवसंरचना का हिस्सा बन सकता है—ज्ञान तक पहुँच का विस्तार करते हुए, खोजों को तेज़ करते हुए, और वैश्विक स्तर पर लोगों के जीवन को बेहतर बनाते हुए.

लेकिन उस परिणाम की गारंटी नहीं है. किसी भी सामान्य-उद्देश्य वाली तकनीक ने कभी भी खुद को सुरक्षित नहीं बनाया.

लचीलापन एक स्थायी अनुशासन है, जिसे विकसित करने, उसमें निवेश करने और सहयोग करने के लिए कई लोग और संस्थान मिलकर काम करते हैं. यही आगे का कार्य है, और यह हमारे समय की निर्णायक चुनौतियों में से एक है. हमें उम्मीद है कि आप हमारे साथ जुड़ेंगे.