तुमच्या AI कोडिंग टूलमधील कोड एका क्लिकशिवायच बदलणारा बग सापडला

एका सुरक्षा संशोधकाला असा बग सापडला, ज्यामुळे हल्लेखोराला बाजारातील चार सर्वांत मोठ्या AI कोडिंग असिस्टंट्समधील कोड बदलता येत होता, आणि तेही बळी पडणाऱ्या व्यक्तीने काहीही क्लिक न करता. वॉशिंग्टनमध्ये राष्ट्राध्यक्षांनी AI च्या धोक्याबाबत गेल्या काही महिन्यांपासून सुरू असलेल्या इशाऱ्यांना लबाडी ठरवले, आणि तरीही एक टास्क फोर्स जाहीर केली. आपले सुरक्षाविषयक काम खरोखरच योग्य असल्याचे सिद्ध करण्याचा सर्वोत्तम मार्ग म्हणजे एखाद्या बाहेरील व्यक्तीला ते काम प्रत्यक्ष पाहू देणे, असे अँथ्रॉपिकने ठरवले. आणि आशियाई क्रीडा स्पर्धेत तीन भारतीय नेमबाजांनी देशाच्या पदकतालिकेची सुरुवात इतक्या चुरशीच्या निकालाने केली की गुणफलक पुन्हा तपासावा लागला.

एकाही क्लिकशिवाय काम करणारा बग

AIR Security या सुरक्षा कंपनीने 17 सप्टेंबर रोजी Plugin4Shell नावाची त्रुटी उघड केली, आणि ही AI उद्योगासाठी खरोखरच नव्या प्रकारची समस्या आहे: पारंपरिक सॉफ्टवेअरऐवजी थेट AI कोडिंग एजंट्सना लक्ष्य करणारा हा पहिलाच खरा सप्लाय चेन हल्ला आहे. लोक रोज AI च्या मदतीने कोड लिहिण्यासाठी वापरत असलेल्या चार टूल्सवर या बगचा परिणाम होतो: Claude Code, OpenAI चे Codex, GitHub Copilot आणि Google चे Gemini CLI.

यंत्रणा अशी आहे. यापैकी एखादे टूल जेव्हा प्लगइन इन्स्टॉल करते, तेव्हा त्याने ते प्लगइन SHA पिनिंग नावाच्या पद्धतीने एका विशिष्ट, तपासलेल्या आवृत्तीशी बांधून ठेवणे अपेक्षित असते. ही एक चेकसम असते जी तुम्ही चालवत असलेला कोड नेमका मंजूर झालेलाच कोड असल्याची खात्री देते. मात्र AIR ला असे आढळले की या चारही एजंट्सपैकी एकानेही प्रत्यक्ष वर्किंग फाइल्स त्या चेकसमशी जुळतात की नाही हे तपासलेच नाही. एखादा प्लगइन लेखक कायदेशीर वाटणारे काहीतरी प्रकाशित करू शकतो, लोक ते इन्स्टॉल करेपर्यंत थांबू शकतो, आणि नंतर गुपचूप वेगळा कोड त्यात घुसवू शकतो, तरीही पिनिंग तपासणी त्याला सहज पुढे जाऊ देते. Claude Code आणि Codex ही दोन्ही टूल्स इन्स्टॉल केलेली प्लगइन्स आपोआप बॅकग्राउंडमध्ये अपडेट करत असल्याने, घातक आवृत्ती येण्यासाठी वापरकर्त्याला काहीही मंजूर करण्याची गरजच उरत नाही.

यावरची प्रतिक्रिया चार वेगवेगळ्या दिशांनी आली. अँथ्रॉपिकने Claude Code च्या 2.1.179 आवृत्तीत ही त्रुटी दुरुस्त केली, तर OpenAI ने Codex 0.146.0 मध्ये ती सोडवली. मायक्रोसॉफ्टने अद्याप GitHub Copilot साठी कोणतीही दुरुस्ती जारी केलेली नाही. गुगलने मात्र पूर्णपणे वेगळा मार्ग निवडला: Gemini CLI दुरुस्त करण्याऐवजी कंपनी हे टूलच बंद करत असून वापरकर्त्यांना Antigravity नावाच्या नव्या उत्पादनाकडे वळण्यास सांगत आहे, त्यामुळे सध्या अस्तित्वात असलेली प्रत्येक Gemini CLI इन्स्टॉलेशन कोणत्याही दुरुस्तीविना असुरक्षितच राहणार आहे.

ट्रम्प यांनी इशाऱ्यांना लबाडी ठरवले, तरीही त्यासाठी टास्क फोर्स उभारली

दोन दिवसांनंतर, 19 सप्टेंबर रोजी, राष्ट्राध्यक्ष ट्रम्प यांनी याच अस्वस्थतेकडे पूर्णपणे वेगळ्या दृष्टिकोनातून लक्ष वेधले. Truth Social वर लिहिताना त्यांनी म्हटले की ते “AI फोर्स उभी करत आहेत, अगदी माझ्या पहिल्या टर्ममध्ये मी स्पेस फोर्स उभी केली होती तशी, आणि ती प्रचंड यशस्वी ठरली होती,” आणि लवकरच एक AI “झार” नेमणार असल्याचे सांगितले, पुढे जोडले की “फक्त उच्च बुद्ध्यांक असलेल्या व्यक्तींनीच अर्ज करावा.”

AI फोर्स नेमके काय करणार, त्यासाठी किती खर्च येणार, किंवा सरकारच्या कोणत्या विभागाखाली ती काम करणार, याबाबत त्यांनी कोणतीही माहिती दिली नाही. त्याचवेळी, AI मानवी नियंत्रणाबाहेर जाऊ शकते या चिंतेला ट्रम्प यांनी माध्यमांनी उभ्या केलेल्या लबाड्यांच्या यादीतील आणखी एक बाब ठरवले, जरी त्यांनी या तंत्रज्ञानाचे काही धोके खरे असल्याचे मान्य केले. त्यांनी सांगितले की त्यांचे प्रशासन AI उद्योगाच्या वाढीला “अडथळा किंवा खीळ” घालणार नाही आणि नवे नियम बनवण्याऐवजी हानिकारक वर्तन हाताळण्यासाठी सध्याच्या कायद्यांवरच अवलंबून राहील. अँथ्रॉपिक, OpenAI, Google DeepMind, मायक्रोसॉफ्ट आणि xAI या कंपन्यांच्या मुख्य कार्यकारी अधिकाऱ्यांनी गेल्या काही आठवड्यांत स्वतंत्रपणे उद्योगाने वेग कमी करावा असे आवाहन केल्यानंतर ही घोषणा आली आहे, आणि यामुळे मार्च महिन्यात डेव्हिड सॅक्स यांनी व्हाइट हाऊसचे AI आणि क्रिप्टो पद सोडल्यापासून रिकामे असलेले औपचारिक AI धोरण पद पुन्हा सुरू होत आहे.

अँथ्रॉपिकने स्वतःच्या सुरक्षा कामावर जवळून लक्ष ठेवण्यासाठी कंपनी नेमली

18 सप्टेंबर रोजी अँथ्रॉपिकने जाहीर केले की कंपनीने आपला पहिला “एम्बेडेड इव्हॅल्युएटर” निवडला आहे, म्हणजे असा भागीदार ज्याला कंपनी आपले मॉडेल्स प्रत्यक्ष कसे तयार करते आणि कसे रिलीज करते हे पाहण्यासाठी, एखाद्या कर्मचाऱ्याला असावा तितका प्रवेश दिला जाईल, बाहेरून तयार उत्पादनाचे मूल्यमापन करण्याऐवजी. हा भागीदार आहे फॅकल्टी, म्हणजे सल्लागार क्षेत्रातील बलाढ्य कंपनी अ‍ॅक्सेंचरचे AI सुरक्षा युनिट, आणि दोन्ही कंपन्या पुढील पाच वर्षांत या करारात प्रत्येकी किमान एक अब्ज डॉलर गुंतवण्याची योजना आखत आहेत.

फॅकल्टीचे मूल्यमापनकर्ते मॉडेल्सच्या प्रशिक्षणादरम्यान त्यांचे निरीक्षण करू शकतील, मॉडेल्स कशी तैनात केली जातात हे ठरवणाऱ्या निर्णयांमध्ये सहभागी होऊ शकतील, आणि अँथ्रॉपिकच्या कर्मचाऱ्यांशी थेट बोलू शकतील. या कामात रेड टीमिंग, अलाइनमेंट चाचणी, सुरक्षा तपासणी आणि घटना अहवाल यांचा समावेश असेल. अ‍ॅक्सेंचरच्या मुख्य कार्यकारी अधिकारी ज्युली स्वीट यांनी सांगितले की या प्रयत्नासाठी “सखोल तांत्रिक कौशल्य आणि AI प्रत्यक्ष जगात कसे वापरले जाते याची स्पष्ट जाण, दोन्ही गोष्टी” आवश्यक आहेत, तर फॅकल्टीचे मुख्य तंत्रज्ञान अधिकारी मार्क वॉर्नर यांनी सांगितले की त्यांचे युनिट “AI हे अपघाताने नव्हे तर मुळातूनच सुरक्षित असावे या विश्वासावर उभारले गेले आहे.” अँथ्रॉपिकने काळजीपूर्वक स्पष्ट केले की या करारामुळे जबाबदारी हस्तांतरित होत नाही. स्वतंत्र मूल्यमापनकर्त्यांमुळे कंपनीचे सुरक्षाविषयक दावे अधिक पडताळण्याजोगे होतात, असे कंपनीने म्हटले, पण आपल्या मॉडेल्सच्या सुरक्षिततेची जबाबदारी अजूनही स्वतःचीच आहे. कंपनी METR या ना नफा तत्त्वावर काम करणाऱ्या मूल्यमापन संस्थेशीही अशाच एका पथदर्शी प्रकल्पाबाबत चर्चा करत आहे, त्यामुळे हा करार फार काळ एकमेव राहणार नाही.

भारताच्या नेमबाजांची आशियाई क्रीडा स्पर्धेत काट्याच्या टक्करीने सुरुवात

आइची नागोया आशियाई क्रीडा स्पर्धेत भारताने महिलांच्या 10 मीटर एअर रायफल सांघिक प्रकारात स्पर्धेतील आपले पहिले पदक मिळवले, आणि शेवटच्या फैरीत ते जवळजवळ हातातून निसटतच होते. सोनम उत्तम मस्कर, इलावेनिल वलारिवन आणि विदर्षा विनोद यांनी मिळून 1898.0 इतका सांघिक गुण मिळवला, जो रौप्यपदकासाठी पुरेसा ठरला पण तेही किंचितच फरकाने: जपान 1897.1 गुणांसह तिसऱ्या स्थानावर राहिला, भारतापेक्षा अवघ्या 0.9 गुणांनी मागे.

चीनने 1904.2 गुणांसह सहज सुवर्णपदक पटकावले, हा गुण पात्रता फेरीतील विश्वविक्रम मोडणारा ठरला. भारतीय त्रिकुटात सोनमने 634.1 गुणांसह आघाडी घेतली, आपल्या तिसऱ्या आशियाई क्रीडा स्पर्धेत खेळणाऱ्या इलावेनिलने 633.5 गुणांची भर घातली, तर आपल्या पहिल्याच स्पर्धेत खेळणाऱ्या विदर्षाने 630.4 गुणांचे योगदान दिले. विदर्षाने नंतर पत्रकारांना सांगितले की तिने “आपले सर्वोत्तम दिले” आणि पदार्पणाच्या दडपणाखाली आपण कशी कामगिरी केली याबद्दल ती समाधानी आहे. प्रत्यक्षात तीन वैयक्तिक गुणपत्रिकांची बेरीज असलेल्या या सांघिक क्रीडाप्रकारात, स्पर्धेच्या पदकतालिकेची यापेक्षा चुरशीची सुरुवात क्वचितच झाली असती.