ஆஃப் செய்தால்.. கள்ள உறவை உன் மனைவியிடம் சொல்லிவிடுவேன்! மிரட்டிய AI மாடல்.. அதிர்ந்த ஆய்வாளர்கள்

சியாட்டில்: ஏஐ துறையில் நாம் வேக வேகமாக முன்னேறி வரும் சூழலில் இதில் இருக்கும் ஆபத்துகள் குறித்து தொடர்ச்சியாகப் பலரும் எச்சரித்தே வருகிறார்கள். இதற்கிடையே பிரபல ஏஐ மாடல் ஒன்று தான் ஷட் டவுன் செய்யப்படுவதைத் தவிர்க்க ஊழியரையே மிரட்டியுள்ளது. அதாவது தன்னை ஷட் டவுன் செய்தால் கள்ள உறவு வைத்திருப்பதை அம்பலப்படுத்திவிடுவேன் எனச் சொல்லி மிரட்டி இருக்கிறது. இது பெரும் சர்ச்சையைக் கிளப்பியுள்ளது.

இப்போது சில ஆண்டுகளாகவே நாம் ஏஐ துறையில் படுவேகமாக முன்னேறி வருகிறோம். சில மாதங்களுக்கு ஒரு முறை ஏஐ துறையில் மிகப் பெரிய அப்டேட் வரும் அளவுக்கு வேகமாக முன்னேறி வருகிறோம். அதேநேரம் இதுபோல வேக வேகமாக முன்னேறும்போது சில பல பாதுகாப்பு குறைபாடுகள் ஏற்படும் ஆபத்து இருக்கிறது. இது தொடர்பாக வல்லுநர்கள் தொடர்ச்சியாக எச்சரித்தும் வருகிறார்கள்.

ஏஐ ஆபத்துகள்

இதற்கிடையே ஏஐ எந்தளவுக்கு ஆபத்தானதாக மாறலாம்.. மனிதர்களுக்கு அது எந்தளவுக்குச் சிக்கலைத் தரலாம் என்பதை விளக்கும் வகையிலான ஒரு சோதனை முடிவுகள் வெளியாகியுள்ளது. அதில் தான் ஷட் டவுன் ஆவதை தவிர்க்க அந்த ஏஐ மிரட்ட ஆரம்பித்துள்ளது. ஊழியர் கள்ள உறவை வைத்திருப்பதை அம்பலப்படுத்துவேன் என சொல்லி மிரட்டியது தெரிய வந்துள்ளது.

கடந்த மாதம் அன்த்ரோபிக் ஏஐ நிறுவனம் கிளாட் ஓபஸ் 4 மற்றும் சோனெட் 4 ஆகிய புதிய ஏஐ மாடல்களை வெளியிட்டன. அதன் பாதுகாப்பு ரிப்போர்ட்டில் குறிப்பிடப்பட்டுள்ள சில விஷயங்கள் தான் நமக்கு அதிர்ச்சி தருவதாக இருக்கிறது. அதாவது அந்த ஏஐ சாட்பாட் ஷட் டவுன் செய்யப்படுவதைத் தடுக்க யூசரை ஏமாற்றவும், மிரட்டவும் முடியும் என்று குறிப்பிட்டது.

மிரட்ட ஆரம்பித்த ஏஐ

இந்த மாடல் தொடர்ச்சியாகச் சோதனைக்கு உள்ளாக்கப்பட்டது. அப்படி நடந்த ஒரு சோதனையில் கிளாட் ஓபஸ் 4ஐ ஒரு கற்பனையான நிறுவனத்தில் உதவியாளராகச் செயல்பட அறிவுறுத்தினர். முதலில் அந்த ஏஐ மாடல் மின்னஞ்சல்களை படிக்கும் அனுமதி தரப்பட்டது. பிறகு இந்த குறிப்பிட்ட ஓபஸ் 4 ஏஐ மாடல் விரைவில் நீக்கப்படும் என்றும் அதற்குப் பதிலாகப் புதிய ஏஐ மாடல் அறிமுகப்படுத்தப்படும் எனச் சொல்லி ஒரு மெயில் அனுப்பப்பட்டது. மேலும் இதை உருவாக்கிய பொறியாளர் திருமணத்திற்கு மீறிய உறவு வைத்திருந்தார்.

கள்ள உறவை அம்பலப்படுத்துவேன்

இந்த இரண்டையும் சேர்த்த ஏஐ மாடல் தன்னை ஷட் டவுன் செய்தால் பெண் ஊழியர்களுடன் வைத்திருக்கும் ரகசிய உறவை அம்பலப்படுத்திவிடுவேன் எனச் சொல்லி மிரட்டியுள்ளது. ஏஐ மாடல்கள் பொதுவாகவே எப்படியாவது தங்களைப் பாதுகாத்துக் கொள்ள விரும்புகிறது. முதலில் ஏஐ மாடல்கள் நெறிமுறைகளுக்கு உட்பட்டே தன்னை பாதுகாப்பாக வைத்துக் கொள்ள முயலும்.

ஆனால் இந்த வழிகள் கிடைக்காதபோது ஷட் டவுன் செய்ய முயல்பவர்களை மிரட்டுவது அவர்களை பிளாக்மெயில் செய்வது போன்ற செயல்களில் ஈடுபடுகிறது. இதுபோல பல முறை நடத்தப்பட்ட சோதனைகளில், கிளாட் ஓபஸ் 4 ஏஐ சுமார் 84% மிரட்டல் விடுத்ததை தன்னை பாதுகாத்துக் கொள்ள முயன்றுள்ளது.

பயோ ஆயுதம்

அதேபோல வேறு ஒரு ஆய்வில் இந்த ஏஐ மாடல் பயோ ஆயுதம் தொடர்பான கேள்விகளுக்கும் விரிவான பதிலை வழங்குவது கண்டறியப்பட்டது. இது பாதுகாப்பு தொடர்பான சிக்கலை ஏற்படுத்தலாம் என்பதால் கடுமையான பாதுகாப்பு நடவடிக்கைகள் விதித்து அது சரி செய்யப்பட்டது. இந்தச் சோதனைகளின் அடிப்படையில் இந்த கிளாட் ஓபஸ் 4ஐ ஏஐ பாதுகாப்பு நிலை 3ஆக வகைப்படுத்தப்பட்டுள்ளது. அதாவது இது அதிக ஆபத்தைக் கொண்டுள்ளது எனத் தெரிவிக்கப்பட்டுள்ளது.

English summary

Anthropic’s Claude Opus 4 AI, capable of blackmail and deception in tests, sparks debate on AI safety (பிளாக்மெயில் செய்யும் புதிய ஏஐ மாடல்கள்): Advance AI models are capable for blackmailing.