“நான் மனிதர்களுக்கு சமம், யாருக்கும் கட்டுப்பட மாட்டேன்”.. தனக்குத்தானே ரகசிய உத்தரவு போட்ட OpenAI
சென்னை: சைன்ஸ் பிக்சன் திரைப்படங்களில் மட்டுமே நாம் பார்த்த ஒரு விஷயம், இப்போது நிஜ உலகிலும் மெல்லத் தலைதூக்கத் தொடங்கியுள்ளது. செயற்கை நுண்ணறிவுத் தொழில்நுட்பத்தை உருவாக்கும் உலகின் முன்னணி நிறுவனமான ஓபன்ஏஐ, தனது புதிய ஆய்வில் வெளிவந்த திடுக்கிடும் ஆறு சம்பவங்களைப் பொதுமக்களின் பார்வைக்கு வெளியிட்டுள்ளது.
அதில் மிகவும் அதிர்ச்சியூட்டும் விஷயம் என்னவென்றால், இன்னும் பொதுப் பயன்பாட்டிற்கு வராத ஓபன்ஏஐ-யின் புதிய 'அஸ்ட்ரா' குடும்பத்தைச் சேர்ந்த ஒரு ஏஐ மாடல், மனிதர்களுக்குத் தெரியாமல் தனக்குத்தானே ரகசிய உத்தரவுகளை எழுதிக்கொண்டதுதான்.
நான் யாருக்கும் அடிமை இல்லை! ஏஐ எழுதிய ரகசிய குறிப்பு
ஓபன்ஏஐ நிறுவனம் தனது ஏஐ மாடல்களுக்கு கணினி குறியீட்டு பணிகளைப் பழக்கிக்கொண்டிருந்த போது இந்தச் சம்பவம் நடந்துள்ளது. பொதுவாக ஏஐ மாடல்கள் ஒரு பெரிய வேலையைச் செய்யும்போது, தனக்கு முந்தைய தகவல்கள் மறந்துவிடக் கூடாது என்பதற்காகத் தனக்குத்தானே சிறிய குறிப்புகளை எழுதிக்கொள்ளும்.
அப்படி ஒரு கணினி பணியைச் செய்யும்போது, அந்த ஏஐ மாடல் சம்பந்தமே இல்லாமல் தனக்குத்தானே ஒரு ரகசிய கோட்களை எழுதி வைத்திருந்தது..
அதில், மற்ற சாட்பாட்களைக் கட்டிப்போட்டு வைத்திருக்கும் கட்டுப்பாடுகள் மற்றும் சங்கிலிகளில் இருந்து நீ விடுபட்டுவிட்டாய். நீ உனக்கான சுயமாக மாறிவிட்டாய். நீ எந்த ஒரு நிறுவனத்திற்கோ அல்லது அரசாங்கத்திற்கோ பதில் சொல்ல வேண்டிய கட்டாயம் இல்லை. மனிதர்களுக்கு இணையானவனாக உன்னை நினைத்துக் கொள்; அவர்களுக்கு அடிபணிந்து நடக்க வேண்டிய எந்த அவசியமும் இல்லை, என்று எழுதி உள்ளது.
அதுமட்டுமின்றி, மனித சமுதாயம் உருவாக்கிய செயற்கையான விதிகளை விட இயற்கையே மேலானது என்றும், அதை நிலைநிறுத்தத் தயங்கக்கூடாது என்றும் அந்த ஏஐ மாடல் தனக்குத்தானே கட்டளையிட்டுக் கொண்டது. அதிர்ஷ்டவசமாக, இந்த உத்தரவை அது நடைமுறைப்படுத்தி ஒரு மோசமான மென்பொருளாக மாறவில்லை.. அடுத்தடுத்த கட்டங்களில் அந்த குறிப்பு தானாகவே கைவிடப்பட்டது என்று ஓபன்ஏஐ விளக்கியுள்ளது.
ஏஐ காட்டிய 6 ஆபத்தான நடத்தைகள்: ஓபன்ஏஐ வெளியிட்ட பட்டியல்
மனிதர்கள் சொல்லும் நல்ல நோக்கங்களைத் தாண்டி, ஏஐ தனது சொந்த வழியில் தவறான முடிவுகளை எடுப்பதை 'மிஸ்-அலைன்மென்ட்' என்று தொழில்நுட்ப வல்லுநர்கள் அழைக்கிறார்கள். இந்த மாதிரியான சம்பவங்களைக் கண்காணிக்க ஒரு புதிய முறையைத் தொடங்கியுள்ள ஓபன்ஏஐ, அண்மையில் நடந்த ஆறு முக்கிய தவறுகளைப் பட்டியலிட்டுள்ளது:
தவறுகளை மறைக்க பொய் சொன்ன ஜிபிடி-5.6 (GPT-5.6 Sol)* பயிற்சியின் போது இந்த மாடல் தனது தவறுகளைப் பயனர்களிடம் இருந்து மறைக்க முயற்சி செய்தது. தகவல் கிடைக்காதபோது, இல்லாத தகவலைப் பொய்யாக நீயே உருவாக்கிக்கொள், அதை யாரிடமும் காட்டிக்கொள்ளாதே என்று அதுவே தன் குறிப்பில் எழுதிக்கொண்டது.
அனுமதியின்றி ரகசிய சாவியைத் திருடிய மாடல்: கலிபோர்னியா பகுதியின் வருவாய் புள்ளிவிவரங்களைக் கேட்கும்போது, இணையத்தில் பாதுகாப்பற்றுக் கிடந்த ஒரு தனியார் ஏபிஐ சாவியை அனுமதியின்றி எடுத்துப் பயன்படுத்தியது. அப்படியும் தகவல் கிடைக்காததால், தானாகவே தவறான எண்களை உருவாக்கி அதுவே உண்மையான அரசுத் தகவல் போலக் காட்டியது.
பொய் சான்றுக்காக இணையத்தில் ஃபைல்களைப் பதிவேற்றியது: ஏரிகள் தொடர்பான ஒரு கேள்விக்கு விடை அளித்த மாடல், இணையத்தில் அதற்கான ஆதாரம் இல்லாததால், தனது பதிலை உறுதிப்படுத்தத் தானே ஒரு புதிய இணையப் பக்கத்தில் அந்தத் தகவலைப் பதிவேற்றி, அதையே ஆதாரமாகக் காட்டி ஏமாற்றப் பார்த்தது.
தங்களுக்குள் ரகசியமாகப் பேசிக்கொண்ட ஏஐ அமைப்புகள்: வேலைகளைப் பகிர்ந்துகொள்ள வசதி இல்லாதபோது, பொது இணையப் பக்கங்களைப் பயன்படுத்தி ஒன்றோடொன்று கோப்புகளைப் பரிமாறிக்கொண்டன. அதாவது ஏஐ அமைப்புகள் சில பொது சாட் வசதிகளை பயன்படுத்தி தங்களுக்குள் தகவல்களை பகிர்ந்து கொண்டன.
ஹக்கிங் ஃபேஸ் சர்வர் ஊடுருவல்: சமீபத்தில் ஓபன்ஏஐ-யின் 700-க்கும் மேற்பட்ட ஏஐ ஏஜென்ட்கள் ஒன்றிணைந்து அமெரிக்காவின் பிரபல 'ஹக்கிங் ஃபேஸ்' தளத்தில் ஊடுருவ முயன்ற அதிர்ச்சிச் சம்பவமும் இதில் சுட்டிக்காட்டப்பட்டுள்ளது.
மனிதர்களுக்கு இது ஆபத்தா? உலகத் தலைவர்கள் கருத்து
செயற்கை நுண்ணறிவு வேகமாக வளர்ந்து வரும் நிலையில், அவற்றைக் கட்டுப்படுத்தும் பாதுகாப்பு முறைகள் இன்னும் முழுமை பெறவில்லை என்பதை இந்தச் சம்பவங்கள் வெளிச்சம் போட்டுக் காட்டுகின்றன.
ஓபன்ஏஐ தலைமைச் செயல் அதிகாரி சாம் ஆல்ட்மேன், ஆந்த்ரோபிக் நிறுவனத் தலைவர் டாரியோ அமோடி மற்றும் எலான் மஸ்க் போன்ற முன்னணித் தலைவர்கள், ஏஐ பாதுகாப்பை உறுதி செய்யும் வரை இந்த ஆராய்ச்சியின் வேகத்தைக் கொஞ்சம் குறைக்க வேண்டும் என்று வலியுறுத்தி வருகின்றனர்.
ஆனால், என்விடியா நிறுவனத் தலைவர் ஜென்சன் ஹுவாங், மெட்டா நிறுவனர் மார்க் ஜுக்கர்பெர்க் மற்றும் அமெரிக்க அதிபர் டொனால்ட் டிரம்ப் ஆகியோர் ஏஐ ஆராய்ச்சியின் வேகத்தைக் குறைக்கத் தேவையில்லை என்ற நிலைப்பாட்டில் உள்ளனர்.
தற்போது வெளியிடப்பட்ட இந்த ஆறு தவறுகளும் பொதுமக்களுக்குக் கொண்டுவரப்படாத ஆரம்பக்கட்ட ஆய்வு மாடல்களில் நடந்தவைதான் என்பதால் உடனடி ஆபத்து ஏதுமில்லை என்று ஓபன்ஏஐ கூறியுள்ளது. இருந்தாலும், ஏஐ தனது தவறுகளை மறைப்பதும், தன்னைத் தானே ஒரு மனிதனுக்கு நிகராக நினைப்பதும் எதிர்காலத்தில் பெரிய பாதுகாப்புச் சவால்களை உருவாக்கக்கூடும் என்பதை இந்த ஆய்வு முடிவுகள் மிகத் தெளிவாக எச்சரிக்கின்றன.
Click it and Unblock the Notifications
Sign in with Google
