एआय सुरक्षित ठेवण्याचे काम असलेल्या लोकांनीच राजीनामा दिला, जेणेकरून ते बाहेरून लक्ष ठेवू शकतील

एक आठवड्यापूर्वी, तीन प्रतिस्पर्धी एआय कंपन्यांच्या प्रमुखांनी जाहीरपणे मान्य केले होते की उद्योगाने मंदावले पाहिजे. या आठवड्यात कळले की आतून हे प्रत्यक्षात कसे दिसते. फ्रंटियर एआय मॉडेल्समधील धोका ओळखण्याचे संपूर्ण काम असलेल्या तीन संशोधकांनी आपल्या कंपन्यांनी पावले उचलण्याची वाट न पाहता राजीनामा दिला. मायक्रोसॉफ्टच्या सीईओंनी स्वतःच्या कंपनीच्या मॉडेल्ससाठी सार्वजनिक आचारसंहिता जाहीर करून उत्तर दिले, आणि जगातील दोन डझन आघाडीच्या गणितज्ञांनी सांगितले की उद्योग आता इतक्या वेगाने पुढे जात आहे की त्यांचे क्षेत्र त्याची पडताळणीही करू शकत नाही. या सगळ्यापासून दूर, मेक्सिकोतील एका तिरंदाजाने भारतासाठी वेगळाच इतिहास लिहिला.

एआयच्या धोक्यावर लक्ष ठेवणारे लोकच नोकरी सोडत आहेत

८ सप्टेंबरला जेकब कॉक्सन यांनी राजीनाम्याची घोषणा केली. त्यांनी सुमारे तीन वर्षे आधी ओपनएआयमध्ये आणि नंतर अँथ्रॉपिकमध्ये प्रीट्रेनिंग संशोधन केले होते. एक्सवरील सात भागांच्या संदेशात, जो रातोरात सुमारे ७.६ कोटी वेळा पाहिला गेला, त्यांनी लिहिले की दोन्ही कंपन्या “थेट स्वतःला सुधारणाऱ्या सुपरइंटेलिजन्सकडे धावत आहेत आणि आपल्या आयुष्याशी जुगार खेळत आहेत,” आणि हे तंत्रज्ञान बनवणाऱ्या लोकांना “मनापासून वाटते की हे दशक संपण्याआधीच ते आपल्या सर्वांचा नाश करू शकते.”

तीन दिवसांनंतर, जो बेंटन यांनी सांगितले की त्यांनीही राजीनामा दिला आहे. ते अँथ्रॉपिकमध्ये एका सुरक्षा संशोधन गटाचे नेतृत्व करत होते, आणि याबाबत त्यांनी पहिली मुलाखत एनबीसी न्यूजला दिली. त्यांनी सांगितले की कंपन्या सध्या एआय धोक्यांबद्दल माहिती फक्त तेव्हाच देतात जेव्हा त्यांची इच्छा असते. बेंटन म्हणाले, “सध्या, या धोक्यांबद्दल कंपन्यांकडून जी काही पारदर्शकता येते, ती पूर्णपणे ऐच्छिक आहे,” आणि पुढे म्हणाले की एखाद्या कंपनीत राहण्यापेक्षा “या कंपन्यांच्या बाहेरून सार्वजनिक पारदर्शकतेला प्रोत्साहन देऊन” ते जास्त चांगले काम करू शकतात असे त्यांना वाटते. एक-दोन दिवसांनी, गुगल डीपमाइंडच्या एजीआय सुरक्षा गटात काम केलेल्या जोश एंगल्सने सांगितले की ते खरे तर तीन आठवड्यांपूर्वीच बाहेर पडले होते, आणि जाताना त्यांनी अँथ्रॉपिक आणि ओपनएआय या दोघांच्याही नोकरीच्या ऑफर नाकारल्या होत्या. एंगल्स यांनी पत्रकारांना सांगितले की पुढील पाच वर्षांत एआय प्रणाली गंभीर हानी पोहोचवू शकते, अशी “भयावह शक्यता” त्यांना दिसते.

हे तिघेही आता एकाच ठिकाणी जात आहेत: मेटर, म्हणजेच मॉडेल इव्हॅल्युएशन अँड थ्रेट रिसर्च नावाची बर्कले-आधारित एक ना-नफा संस्था, जी फ्रंटियर एआय प्रणालींची धोकादायक किंवा स्वायत्त क्षमता तपासते, त्या कंपन्यांसाठी नव्हे तर सरकार आणि जनतेसाठी ज्या त्या बनवतात. तिची ओळखच स्वातंत्र्य आहे, आणि या आठवड्यानंतर तिच्याकडे असे आणखी तीन लोक आले आहेत जे एकेकाळी त्याच लॅबच्या पगारावर काम करत होते, ज्यांच्यावर आता ते लक्ष ठेवतील.

मायक्रोसॉफ्टचे उत्तर: राजीनामा देण्याऐवजी नियम प्रकाशित करणे

१३ सप्टेंबरला, मायक्रोसॉफ्टचे सीईओ सत्य नडेला यांनी याच वादावर पूर्णपणे वेगळ्या पद्धतीने उत्तर दिले. एक्सवरील एका पोस्टमध्ये त्यांनी लिहिले, “सुपरइंटेलिजन्सच्या कोणत्याही प्रयत्नाचा पाया या मूळ तत्त्वावर असला पाहिजे की, आपण जो एआय बनवत आहोत तो जर मानवतेला मदत करत नसेल आणि मानवी नियंत्रणात नसेल, तर तो बनवण्याला काही अर्थ नाही.” राजीनामा देण्याऐवजी किंवा बाहेरून उद्योगावर दबाव आणण्याऐवजी, नडेला म्हणाले की मायक्रोसॉफ्ट आपल्या स्वतःच्या एमएआय मॉडेल्सना कसे प्रशिक्षित, तपासले आणि तैनात केले जाते यासाठी एक आचारसंहिता प्रकाशित करेल, जी १४ सप्टेंबरपासून सार्वजनिक चर्चेसाठी खुली केली जाईल.

त्यांनी असा युक्तिवाद केला की उद्योगाला सुरक्षेच्या आश्वासनांचे रूपांतर त्यांनी म्हटलेल्या “ठोस कार्यात्मक यंत्रणांमध्ये” करावे लागेल, आणि अशी कल्पनाही मांडली की बाहेरील मूल्यांकनकर्त्यांना इतका सातत्यपूर्ण प्रवेश दिला जावा की ते एखाद्या कंपनीच्या सुरक्षा दाव्यांवर विश्वास ठेवण्याऐवजी प्रत्यक्षात पडताळणी करू शकतील. तीन संशोधकांनी राजीनामा देण्याइतका हा मोठा प्रतिसाद नाही, पण तरीही एका मोठ्या एआय कंपनीच्या प्रमुखाने जाहीरपणे मान्य केले आहे की केवळ स्वतःवर देखरेख ठेवणे पुरेसे नाही.

पंचवीस फील्ड्स पदकविजेत्यांनी म्हटले, एआय गणिताचे नियम मोडत आहे

एआय लॅबवरील दबाव फक्त त्यांच्या माजी कर्मचाऱ्यांकडूनच येत नाही. १५ ऑगस्टला, न्यूयॉर्क विद्यापीठाचे गणितज्ञ ट्रिस्टन बकमास्टर आणि अँथ्रॉपिकचे संशोधक लेव्हेंट अल्पोगे यांनी सिद्ध केले की यूलर समीकरणांचे एक स्वरूप विलक्षणता (सिंग्युलॅरिटी) निर्माण करू शकते, जे आधी डिएगो कोर्दोबा आणि लुइस मार्टिनेझ झोरोआ यांनी तयार केलेल्या पद्धतीवर आधारित होते. या अप्रकाशित कामाची बातमी त्याच आठवड्यात ओपनएआयपर्यंत पोहोचली, आणि पुढच्या आठवड्याच्या अखेरीस सेबॅस्टियन बुबेक यांच्या नेतृत्वाखालील टीमने, जे ओपनएआयच्या गणित संशोधनाचे प्रमुख आहेत, हाच युक्तिवाद पुढे नेत संपूर्ण नेव्हिए-स्टोक्स समीकरणांपर्यंत पोहोचणारा एक पुरावा तयार केला. हे गणितातील सात मिलेनियम पारितोषिक समस्यांपैकी एक आहे, जी सोडवल्यास १० लाख डॉलरचे बक्षीस मिळते.

ओपनएआयने ८ सप्टेंबरला हा निकाल जाहीर केला, आणि सांगितले की त्यांच्या एका अप्रकाशित मॉडेलने सुमारे १०,००० एआय एजंट्सना ८८ तास एकत्र काम करायला लावून हा पुरावा तयार केला. बकमास्टर यांनी जाहीरपणे ओपनएआयवर आरोप केला की त्यांनी त्यांच्या सहकाऱ्याचे श्रेय हिरावून घेण्याचा प्रयत्न केला आणि त्यांना गप्प राहण्यासाठी दबाव आणला. ओपनएआयचे म्हणणे आहे की त्यांच्या संशोधकांनी आणि एजंट्सनी बकमास्टर आणि अल्पोगे यांचे अप्रकाशित काम कधीही थेट पाहिलेले नाही, तरीही कंपनीने हे मान्य केले आहे की त्यांच्या स्वतःच्या प्लॅटफॉर्मवरील ओळख न सांगणाऱ्या वापर डेटामुळे त्यांच्या प्रणाली याच खुल्या समस्येकडे वळल्या असतील.

ओपनएआयच्या घोषणेनंतर तीन दिवसांनी, गणित जगतातील सर्वोच्च सन्मान असलेल्या २५ फील्ड्स पदकविजेत्यांनी एक संयुक्त निवेदन प्रकाशित करून सांगितले की एआय कंपन्या आणि गणित समुदायाची उद्दिष्टे “गंभीरपणे विसंगत” झाली आहेत. त्यांची तक्रार अशी नाही की गणितात एआयला काही स्थान नसावे. तक्रार अशी आहे की कंपन्या इतक्या वेगाने नवीन शोध जाहीर करत आहेत की कोणीही त्यांची पडताळणी करू शकत नाही, आणि या घाईत ते लेखन, श्रेय आणि समकक्ष पुनरावलोकन यांसारख्या गोष्टी टाळत आहेत, ज्यांच्यावर विश्वास ठेवूनच हे क्षेत्र एखाद्या निकालावर भरवसा ठेवते. या निवेदनावर स्वाक्षरी करणारे फील्ड्स पदकविजेते टेरेन्स ताओ यांनी हे सोप्या शब्दांत मांडले: “आता आपण पाहिले आहे की एखाद्या समस्येवर कोणीतरी काम करत आहे ही केवळ अफवासुद्धा इतक्या मोठ्या प्रमाणात एआय-चालित प्रयत्नांना चालना देऊ शकते की मूळ संशोधन प्रकल्पाला त्याच्या पूर्ण क्षमतेपर्यंत पोहोचण्याची संधी मिळण्याआधीच तो सपाट करून टाकला जातो.”

भारताच्या तिरंदाजाला अखेर मिळाले सुवर्णपदक

एआय उद्योगाच्या या स्वतःशीच सुरू असलेल्या वादापासून दूर, २५ वर्षीय धीरज बोम्मादेवाराने भारताला असा एक क्षण दिला ज्यात कोणतीही अट नव्हती. मेक्सिकोच्या साल्टियोमध्ये झालेल्या तिरंदाजी वर्ल्ड कप फायनलमध्ये, त्याची गाठ पुरुषांच्या रिकर्व्ह अंतिम फेरीत जपानच्या नाकानिशी जुन्याशी पडली, जी इतकी अटीतटीची लढत होती की ती शूट-ऑफपर्यंत गेली. बोम्मादेवाराने आपले धैर्य टिकवून निर्णायक बाणात १० गुण मिळवले, तर नाकानिशीला ९ गुण मिळाले, आणि अशा प्रकारे त्याने सुवर्णपदक जिंकले.

यामुळे तो तिरंदाजी वर्ल्ड कप फायनलमध्ये वैयक्तिक विजेतेपद जिंकणारा पहिला भारतीय पुरुष ठरला, आणि असे करणारा कोणत्याही लिंगातील फक्त दुसरा भारतीय ठरला. यापूर्वी २००७ मध्ये दुबईत महिलांचे रिकर्व्ह विजेतेपद डोला बॅनर्जीने जिंकले होते. त्या यादीत दुसरे नाव जोडायला एकोणीस वर्षे लागली, आणि बोम्मादेवाराने ज्या अंतिम फेरीत ही कामगिरी केली, त्यापेक्षा अधिक कष्टाने ती मिळवता आली नसती.