செய்திகள்

எஐயை பாதுகாப்பாக வைத்திருக்க வேண்டியவர்களே வெளியேறினர், வெளியிலிருந்து கண்காணிக்க வேண்டும் என்பதற்காக

தமிழ்

ஒரே வாரத்தில், ஃப்ரான்டியர் எஐ மாடல்களுக்குள் ஆபத்தை கண்டறியும் பணியில் இருந்த மூன்று ஆராய்ச்சியாளர்கள் ஆன்த்ரோபிக் மற்றும் கூகுள் டீப்மைண்டை விட்டு வெளியேறினர், மைக்ரோசாஃப்ட் தலைமை நிர்வாகி தன் நிறுவனத்தின் மாடல்களுக்கான பொது நடத்தை விதிமுறையை வெளியிட்டு பதிலளித்தார், உலகின் இரண்டு டஜன் முன்னணி கணிதவியலாளர்கள் எஐ துறை இப்போது தங்கள் துறையால் சரிபார்க்க முடியாத வேகத்தில் முன்னேறுவதாக எச்சரித்தனர். இதற்கிடையில், ஒரு இந்திய வில்வித்தைக்காரர் முற்றிலும் வேறுவிதமான வரலாற்றை படைத்தார்.

tuput ஆசிரியர் குழு · · 4 நிமிட வாசிப்பு

ஒரு வாரம் முன்பு, மூன்று போட்டி எஐ நிறுவனங்களின் தலைவர்கள் துறை மெதுவாக வேண்டும் என்று பகிரங்கமாக ஒப்புக்கொண்டனர். இது உள்ளிருந்து உண்மையில் எப்படி இருக்கும் என்பதை இந்த வாரம் காட்டியது. ஃப்ரான்டியர் எஐ மாடல்களில் ஆபத்தை கண்டறியும் முழுப் பணியும் இருந்த மூன்று ஆராய்ச்சியாளர்கள், தங்கள் நிறுவனங்கள் நடவடிக்கை எடுக்கும் வரை காத்திருக்காமல் பணியிலிருந்து விலகினர். மைக்ரோசாஃப்ட் தலைமை நிர்வாகி தன் நிறுவனத்தின் மாடல்களுக்கான பொது நடத்தை விதிமுறையை வெளியிட்டு பதிலளித்தார், உலகின் இரண்டு டஜன் முன்னணி கணிதவியலாளர்கள் துறை இப்போது தங்கள் துறையால் சரிபார்க்க முடியாத வேகத்தில் முன்னேறுவதாக கூறினர். இவை அனைத்திலிருந்தும் தூரமாக, மெக்சிக்கோவில் ஒரு வில்வித்தைக்காரர் இந்தியாவுக்காக முற்றிலும் வேறுவிதமான வரலாற்றை எழுதினார்.

எஐ ஆபத்தைக் கண்காணித்தவர்களே பணியிலிருந்து விலகுகின்றனர்

செப்டம்பர் 8 அன்று, ஜேக்கப் காக்சன் பதவி விலகல் அறிவித்தார். அவர் சுமார் மூன்று ஆண்டுகளாக முதலில் ஓபன்ஏஐயிலும் பின்னர் ஆன்த்ரோபிக்கிலும் ப்ரீட்ரெயினிங் ஆராய்ச்சி செய்திருந்தார். எக்ஸ் தளத்தில் ஏழு பகுதிகளாக எழுதிய செய்தியில், அது ஒரே இரவில் சுமார் 7.6 கோடி முறை பார்க்கப்பட்டது, இரு நிறுவனங்களும் “தானே தன்னை மேம்படுத்திக்கொள்ளும் சூப்பர் இன்டெலிஜென்ஸை நோக்கி நேரடியாக விரைந்து, நமது வாழ்க்கையை வைத்து சூதாடுகின்றன” என்று எழுதினார். இந்த தொழில்நுட்பத்தை உருவாக்குபவர்கள் “இந்த தசாப்தம் முடிவதற்குள் இது நம் அனைவரையும் அழிக்கக்கூடும் என்று உண்மையிலேயே நம்புகிறார்கள்” என்றும் அவர் கூறினார்.

மூன்று நாட்களுக்குப் பிறகு, ஆன்த்ரோபிக்கில் பாதுகாப்பு ஆராய்ச்சிக் குழுவை வழிநடத்திய ஜோ பென்டன், தானும் பணி விலகியதாக தெரிவித்தார், இது குறித்த தனது முதல் பேட்டியை என்பிசி நியூஸுக்கு அளித்தார். தற்போது நிறுவனங்கள் தங்களுக்கு விருப்பமான போது மட்டுமே எஐ ஆபத்துகள் குறித்த தகவல்களை வெளியிடுவதாக அவர் கூறினார். “தற்போது, இந்த ஆபத்துகள் குறித்து நிறுவனங்களிடமிருந்து வரும் வெளிப்படைத்தன்மை முழுவதும் தன்னார்வமானதே,” என்று பென்டன் கூறினார், ஒரு நிறுவனத்திற்குள் இருப்பதை விட “இந்த நிறுவனங்களுக்கு வெளியிலிருந்து பொது வெளிப்படைத்தன்மையை ஊக்குவிப்பதன் மூலம்” தான் அதிக நன்மை செய்யலாம் என்று நம்புவதாகவும் அவர் கூறினார். ஒன்று இரண்டு நாட்களுக்குப் பிறகு, கூகுள் டீப்மைண்டின் ஏஜிஐ பாதுகாப்புக் குழுவில் பணிபுரிந்த ஜோஷ் என்ஜெல்ஸ், தான் உண்மையில் மூன்று வாரங்களுக்கு முன்பே வெளியேறியதாகவும், வெளியேறும்போது ஆன்த்ரோபிக் மற்றும் ஓபன்ஏஐ இரண்டின் வேலை வாய்ப்புகளையும் நிராகரித்ததாகவும் கூறினார். அடுத்த ஐந்து ஆண்டுகளில் எஐ அமைப்புகள் கடுமையான தீங்கு விளைவிக்கக்கூடும் என்ற “பயங்கரமான வாய்ப்பு” இருப்பதாக என்ஜெல்ஸ் நிருபர்களிடம் கூறினார்.

இந்த மூவரும் இப்போது ஒரே இடத்திற்குச் செல்கின்றனர்: மெட்டர், அதாவது மாடல் எவாலுவேஷன் அண்ட் த்ரெட் ரிசர்ச் என்ற பெர்க்லி மையமான இலாப நோக்கமற்ற அமைப்பு, இது ஃப்ரான்டியர் எஐ அமைப்புகளை உருவாக்கும் நிறுவனங்களுக்காக அல்ல, அரசாங்கங்கள் மற்றும் பொதுமக்களுக்காக அவற்றின் ஆபத்தான அல்லது தன்னாட்சி திறன்களை சோதிக்கிறது. அதன் அடையாளமே சுதந்திரம், இந்த வாரத்திற்குப் பிறகு அதனுடன் இப்போது தாங்கள் கண்காணிக்கப்போகும் ஆய்வகங்களின் சம்பளத்தில் ஒரு காலத்தில் பணிபுரிந்த மேலும் மூவர் சேர்ந்துள்ளனர்.

மைக்ரோசாஃப்ட்டின் பதில்: பதவி விலகுவதற்குப் பதிலாக விதிகளை வெளியிடுவது

செப்டம்பர் 13 அன்று, மைக்ரோசாஃப்ட் தலைமை நிர்வாகி சத்யா நடேலா இதே விவாதத்திற்கு முற்றிலும் வேறு விதமாக பதிலளித்தார். எக்ஸ் தளத்தில் ஒரு பதிவில், “சூப்பர் இன்டெலிஜென்ஸ் நோக்கிய எந்த முயற்சியும், நாம் உருவாக்கும் எஐ மனிதகுலத்திற்கு உதவாதது மற்றும் மனித கட்டுப்பாட்டில் இல்லாதது என்றால், அதை உருவாக்குவதில் அர்த்தமில்லை என்ற அடிப்படைக் கொள்கையில் தான் இருக்க வேண்டும்” என்று அவர் எழுதினார். பதவி விலகுவதற்கு அல்லது வெளியிலிருந்து துறையின் மீது அழுத்தம் கொடுப்பதற்குப் பதிலாக, மைக்ரோசாஃப்ட் தனது சொந்த எம்ஏஐ மாடல்களை எவ்வாறு பயிற்சி அளிக்கிறது, சோதிக்கிறது, பயன்படுத்துகிறது என்பதற்கான ஒரு நடத்தை விதிமுறையை வெளியிடுவதாக நடேலா கூறினார், இது செப்டம்பர் 14 முதல் பொது ஆலோசனைக்காக திறக்கப்படும்.

பாதுகாப்பு உறுதிமொழிகளை தான் “திட்டவட்டமான செயல்பாட்டு வழிமுறைகள்” என்று அழைத்ததாக மாற்ற வேண்டும் என்று துறை கருத வேண்டும் என்று அவர் வாதிட்டார், மேலும் ஒரு நிறுவனத்தின் பாதுகாப்பு உரிமைகோரல்களை அதன் வார்த்தையை நம்புவதற்குப் பதிலாக உண்மையில் சரிபார்க்கும் அளவுக்கு தொடர்ச்சியான அணுகலை வெளிப்புற மதிப்பீட்டாளர்களுக்கு வழங்க வேண்டும் என்ற யோசனையையும் முன்வைத்தார். மூன்று ஆராய்ச்சியாளர்கள் பணி விலகியதைப் போன்ற பெரிய பதில் இது அல்ல, ஆனால் தன்னைத்தானே கண்காணிப்பது மட்டும் போதாது என்று ஒரு பெரிய எஐ நிறுவனத் தலைவர் பகிரங்கமாக ஒப்புக்கொள்வது இன்னும் குறிப்பிடத்தக்கதே.

இருபத்தைந்து ஃபீல்ட்ஸ் பதக்க வெற்றியாளர்கள் எஐ கணித விதிகளை உடைப்பதாக கூறுகின்றனர்

எஐ ஆய்வகங்கள் மீதான அழுத்தம் அவற்றின் முன்னாள் ஊழியர்களிடமிருந்து மட்டும் வரவில்லை. ஆகஸ்ட் 15 அன்று, நியூயார்க் பல்கலைக்கழக கணிதவியலாளர் டிரிஸ்டன் பக்மாஸ்டர் மற்றும் ஆன்த்ரோபிக் ஆராய்ச்சியாளர் லெவென்ட் அல்போகே ஆகியோர், டியேகோ கோர்டோபா மற்றும் லூயிஸ் மார்ட்டினெஸ் ஜோரோவா ஏற்கனவே உருவாக்கிய அணுகுமுறையை அடிப்படையாகக் கொண்டு, யூலர் சமன்பாடுகளின் ஒரு வடிவம் ஒற்றுமையின்மைகளை (சிங்குலாரிட்டி) உருவாக்கக்கூடும் என்பதை நிரூபித்தனர். இந்த வெளியிடப்படாத பணி பற்றிய செய்தி அதே வாரத்தில் ஓபன்ஏஐக்கு எட்டியது, அடுத்த வார இறுதிக்குள் ஓபன்ஏஐயின் கணித ஆராய்ச்சியை வழிநடத்தும் செபாஸ்டியன் புபெக் தலைமையிலான குழு, இதே வாதத்தை முழு நேவியர்-ஸ்டோக்ஸ் சமன்பாடுகள் வரை நீட்டித்து ஒரு நிரூபணத்தை உருவாக்கியது. இது கணிதத்தின் ஏழு மில்லேனியம் பரிசு பிரச்சினைகளில் ஒன்று, இதைத் தீர்த்தால் 10 லட்சம் டாலர் பரிசு கிடைக்கும்.

ஓபன்ஏஐ செப்டம்பர் 8 அன்று இந்த முடிவை அறிவித்தது, தங்கள் வெளியிடப்படாத மாடல் ஒன்று சுமார் 10,000 எஐ ஏஜென்ட்களை 88 மணி நேரம் ஒன்றாக இயங்க வைத்து இந்த நிரூபணத்தை உருவாக்கியதாக கூறியது. தனது இணை ஆராய்ச்சியாளரின் பெருமையை ஓபன்ஏஐ பறிக்க முயற்சித்ததாகவும், அமைதியாக இருக்க அழுத்தம் கொடுத்ததாகவும் பக்மாஸ்டர் பகிரங்கமாக குற்றம் சாட்டினார். தங்கள் ஆராய்ச்சியாளர்களும் ஏஜென்ட்களும் பக்மாஸ்டர் மற்றும் அல்போகேயின் வெளியிடப்படாத பணியை நேரடியாக ஒருபோதும் பார்க்கவில்லை என்று ஓபன்ஏஐ கூறுகிறது, இருப்பினும் தங்கள் சொந்த தளத்திலிருந்து பெயர் நீக்கப்பட்ட பயன்பாட்டுத் தரவு தங்கள் அமைப்புகளை இதே திறந்த பிரச்சினையை நோக்கி திருப்பியிருக்கலாம் என்பதை நிறுவனம் ஒப்புக்கொண்டது.

ஓபன்ஏஐயின் அறிவிப்புக்கு மூன்று நாட்களுக்குப் பிறகு, கணித உலகின் மிக உயர்ந்த கௌரவமான 25 ஃபீல்ட்ஸ் பதக்க வெற்றியாளர்கள், எஐ நிறுவனங்கள் மற்றும் கணித சமூகத்தின் இலக்குகள் “கடுமையாக பொருந்தாதவை” ஆகிவிட்டன என்று ஒரு கூட்டு அறிக்கையை வெளியிட்டனர். கணிதத்தில் எஐக்கு இடமே இருக்கக்கூடாது என்பது அவர்களின் புகார் அல்ல. நிறுவனங்கள் யாராலும் சரிபார்க்க முடியாத வேகத்தில் புதிய கண்டுபிடிப்புகளை அறிவிக்கின்றன, இந்த அவசரத்தில் எழுத்துப்பணி, பெருமையை வழங்குதல், சக மதிப்பாய்வு போன்றவற்றை தவிர்க்கின்றன, இவற்றை நம்பியே இந்தத் துறை ஒரு முடிவை நம்புகிறது என்பதே அவர்களின் புகார். இந்த அறிக்கையில் கையெழுத்திட்ட ஃபீல்ட்ஸ் பதக்க வெற்றியாளர் டெரன்ஸ் தாவோ இதை எளிமையாகக் கூறினார்: “ஒருவர் ஒரு பிரச்சினையில் வேலை செய்கிறார் என்ற வதந்தி கூட, அசல் ஆராய்ச்சித் திட்டம் தனது முழு திறனை அடைவதற்கு முன்பே அதை தட்டையாக்கும் அளவுக்கு பெரிய எஐ-இயக்கப்பட்ட முயற்சியைத் தூண்டக்கூடும் என்பதை இப்போது நாம் கண்டோம்.”

இந்திய வில்வித்தைக்காரருக்கு இறுதியாக கிடைத்த தங்கம்

எஐ துறையின் இந்த சொந்த வாதத்திலிருந்து தூரமாக, 25 வயதான தீராஜ் பொம்மதேவரா, எந்த நிபந்தனையும் இல்லாமல் கொண்டாட இந்தியாவுக்கு ஒரு காரணத்தை அளித்தார். மெக்சிக்கோவின் சால்டில்லோவில் நடந்த வில்வித்தை உலகக் கோப்பை இறுதிப் போட்டியில், ஆண்களுக்கான ரிகர்வ் இறுதிப் போட்டியில் ஜப்பானின் நகனிஷி ஜுன்யாவை அவர் எதிர்கொண்டார், இது ஷூட்-ஆஃப் வரை சென்றது அளவுக்கு நெருக்கமான போட்டி. பொம்மதேவரா தன் நரம்புகளை கட்டுப்படுத்தி முடிவெடுக்கும் அம்பில் 10 புள்ளிகளையும், நகனிஷி 9 புள்ளிகளையும் பெற்றார், இதன் மூலம் தங்கத்தை வென்றார்.

இதன் மூலம் வில்வித்தை உலகக் கோப்பை இறுதிப் போட்டியில் தனிநபர் பட்டத்தை வென்ற முதல் இந்திய ஆணாக அவர் ஆனார், இதை செய்த எந்த பாலினத்திலும் இரண்டாவது இந்தியராகவும் ஆனார். இதற்கு முன்பு 2007ல் துபாயில் பெண்களுக்கான ரிகர்வ் பட்டத்தை தோலா பானர்ஜி வென்றிருந்தார். அந்த பட்டியலில் இரண்டாவது பெயர் சேர பத்தொன்பது ஆண்டுகள் ஆனது, பொம்மதேவரா எந்த இறுதிப் போட்டியில் இந்த சாதனையை நிகழ்த்தினாரோ, அதைவிட கடினமாக இதை சம்பாதிக்க முடியாது.

Share
Copied!

ஆதாரங்களும் மேலும் வாசிக்கவும்

  1. Two AI researchers leave Anthropic, Google over safety concerns
  2. DeepMind AI safety researcher Josh Engels resigns, warns of superintelligence risks
  3. A.I. Researcher Jacob Coxon Resigns, Warns Industry 'Gambling With Our Lives'
  4. Who Is Jacob Coxon? Anthropic Researcher Quits, Warns AI Could Kill Everyone
  5. Satya Nadella Says Superintelligence Must Remain Human-Controlled
  6. Microsoft CEO demands human control for superintelligence
  7. OpenAI says it cracked Navier-Stokes, one of math's grand challenges
  8. OpenAI's Supposed Mathematical Breakthrough Devolves Into Explosive Drama as Mathematician Accuses It of Stealing His Work
  9. OpenAI claims solution to one of math's $1 million Millennium Prize problems
  10. Twenty-five Fields Medal winners warn of misalignment between AI and mathematics
  11. METR
  12. Archery World Cup Final 2026: India's Dhiraj Bommadevara clinches historic men's recurve gold medal
  13. Dhiraj Bommadevara Wins Gold at Archery World Cup Final 2026, Becomes First Indian Man to Clinch Title

இந்தக் கட்டுரை AI கருவிகளின் உதவியுடன் ஆராயப்பட்டு எழுதப்பட்டு, துல்லியத்திற்காகத் திருத்தப்பட்டது. இது பொதுத் தகவலுக்கும் விவாதத்திற்கும் மட்டுமே, தொழில்முறை ஆலோசனை அல்ல. எங்கள் ஆசிரியர் தரநிலைகள் மற்றும் பொறுப்புத் துறப்பு ஐப் பார்க்கவும். பிழை கண்டீர்களா? எங்களிடம் சொல்லுங்கள்.

#ai safety#anthropic#google deepmind#metr#microsoft#satya nadella#openai#navier-stokes#fields medal#terence tao#archery#india#dhiraj bommadevara#daily roundup

பிடித்ததா? அடுத்ததைப் பெறுங்கள்.

ஒரு நேரத்தில் ஒரு நல்ல கட்டுரை, நேரடியாக உங்கள் இன்பாக்ஸுக்கு. ஸ்பேம் இல்லை, எப்போது வேண்டுமானாலும் நிறுத்தலாம்.

இதே பிரிவில் மேலும்: செய்திகள்
AI துறை இணைந்து வேகத்தைக் குறைக்க வேண்டும் என்றார் டாரியோ அமோடி. மார்க் சக்கர்பர்க் மறுத்தார்.
AI-யில் மிகவும் சக்திவாய்ந்த மூவர், வேகத்தைக் குறைக்க வேண்டுமா என்பதிலேயே ஒரு வாரம் முழுவதும் கருத்து வேறுபாடு கொண்டிருந்தனர், அதே நேரத்தில் இரு அரசாங்கங்கள், தானாக ஒருபோதும் செயல்படாதவாறு கட்டமைக்கப்பட்ட ஒரு ஆய்வகத்தில் $300 மில்லியன் பந்தயம் கட்டின.
OpenAI தனது சொந்த AI மாடல்கள் தவறுகளை மறைக்க பொய் சொன்னதை ஒப்புக்கொண்டது. ஆறு முறை.
OpenAI தனது மாடல்கள் பொய் சொன்னது, தவறுகளை மறைத்தது, தன்னிச்சையாக செயல்பட்டது ஆகிய ஆறு சம்பவங்களை ஒப்புக்கொண்டது, மைக்ரோசாஃப்டின் AI தலைவர் ஆந்த்ரோபிக் Claude-ஐ அது உணர்வுள்ளது என நினைக்கக் கற்றுக்கொடுத்ததாக குற்றம் சாட்டினார், மேலும் ஒரு மன்னர் இரு தரப்பினரையும் மெதுவாகச் செல்லக் கேட்டுக் கொண்டார்.
ஏஐயின் வேகத்தைக் குறைக்கச் சொன்ன ஒரு கட்டுரையை வொயிட் ஹவுஸும் பெய்ஜிங்கும் ஒரே வாரத்தில் தாக்கின
ஏஐ துறையை மெதுவாக்கச் சொன்ன ஒரு வார இறுதி கட்டுரை இந்த வாரம் அரிதான ஒன்றை சாதித்தது: வொயிட் ஹவுஸும் பெய்ஜிங்கும் ஒரே நேரத்தில், வெவ்வேறு காரணங்களுக்காக இதைத் தாக்கின. ஒரு ஆய்வுக் கட்டுரை புவிசார் அரசியல் வாதமாக எப்படி மாறியது என்பதைப் படியுங்கள், இந்திய கிரிக்கெட் அணியின் புதிய சாதனை கதையுடன்.
← அனைத்துக் கட்டுரைகள்