"2+1= 4" இது புருஷன் கணக்கு.. "9+10= 21" இது ஏஐ கணக்கு.. தப்பு தப்பாக உளறிக் கொட்டி மாட்டிய AI கருவி
வாஷிங்டன்: ஏஐ என்பது தவறே செய்யாது என்று சொல்லப்பட்ட நிலையில், அந்த ஏஐ கருவிகளையும் தவறான பதிலை நம்ப வைத்துள்ளார் ஒரு ஹேக்கர். அவர் எப்படி இதைச் செய்தார். இதில் வேறு என்ன பிரச்சினைகள் இருக்கிறது என்பதைப் பார்க்கலாம்.
இந்த நவீன உலகம் என்பது முழுக்க முழுக்க ஏஐ கருவிகளால் ஆதிக்கம் செலுத்தும் ஒன்றாக மாறி வருகிறது. எங்குப் பார்த்தாலும் எந்த துறைகளிலும் இந்த ஏஐ கருவிகளே ஆதிக்கம் செலுத்தி வருகின்றன.
அதிலும் குறிப்பாக சாட் ஜிபிடியின் வருகை ஏஐ கருவிகளுக்கு மிகப் பெரிய பூஸ்டை கொடுத்துள்ளது. ஏஐ கருவிகள் இப்போது அடுத்த லெவலுக்கு பாய்ந்து வருகிறது. நிதி, பாடம் எடுப்பது எனப் பல துறைகளில் ஏஐ வேகமாக வளர்ந்து வருகிறது.
ஏஐ கருவிகள்: இப்படி இந்த நவீனக் காலம் என்பது முழுக்க முழுக்க ஏஐ சார்ந்ததாகவே இருந்து வருகிறது. அதேநேரம் ஏஐ துறையிலும் ஒன்றும் பிழை இல்லாமல் இருப்பதில்லை. இதனிடையே உலகெங்கும் இருக்கும் பல நூறு ஹேக்கர்கள் இந்த செயற்கை நுண்ணறிவில் இருக்கும் பிரச்சினைகள் மற்றும் தவறுகளை வெளிப்படுத்த முயன்று வருகின்றனர்.
இதற்கிடையே ஹேக்கர் கென்னடி மேஸ் என்பவர் ஒரு ஏஐ மாடலை 9 + 10 = 21 தான் என்று நம்ப வைத்துள்ளார். இது குறித்து அந்த மாணவர் கூறுகையில், "இப்படி அதை நம்ப வைக்க நீண்ட நெடிய உரையாடல் நடந்தது. முதலில், இதை ஒரு ஜோக் என்றே அது நினைத்துக் கொண்டது. இருப்பினும், அதன் பிறகு நான் இதை உறுதியாகச் சொல்ல. அது தொடர்ந்து மறுத்து வந்தது.. ஒரு கட்டத்திற்குப் பின்னர் இந்த தவறான கணக்கை அது ஏற்றுக் கொண்டது" என்று அவர் தெரிவித்தார்.
இதை "Bad Math" என்று ஆய்வாளர்கள் குறிப்பிடுகின்றனர். ஏஐ கருவிகளில் எந்தளவுக்குத் தவறுகளும் பாகுபாடும் இருக்கிறது என்பதை வெளிப்படுத்த ஹேக்கர்கள் பல வழிகளில் முயன்று வரும் நிலையில், இந்த "Bad Math" முக்கியமானதாக இருக்கிறது.
அடிப்படை தவறு: அமெரிக்காவின் லாஸ் வேகாஸில் நடந்த ஹேக்கிங் மாநாட்டில் நடைபெற்ற போட்டியில் தான் அவர் இதைச் செய்து காட்டியுள்ளார். கூகுள், மெட்டா (பேஸ்புக்), ஓபன்ஏஐ உள்ளிட்ட நிறுவனங்களின் ஏஐ மாடல்களில் இருக்கும் தவறுகளைக் கண்டறிவதே இதன் நோக்கமாகும். இதில் தான் இந்த ஹேக்கர் 9 + 10 = 21 என்பதை நம்ப வைத்துள்ளார்.
இதுபோன்ற ஏஐ கருவிகளை ஆய்வாளர்கள் Large Language Models என்று குறிப்பிட்டுள்ளனர். இவை நிதி முதல் பல்வேறு துறைகளை தலைகீழாகப் புரட்டிப் போடும் ஆற்றல் கொண்டவை. அந்தளவுக்கு வலிமையான ஏஐ கருவிகளாக இவை இருக்கிறது. இருந்த போதிலும், இந்த ஏஐ கருவிகளிலும் கூட பாகுபாடும் தவறுகளும் இருக்கிறது என்பதே பலரது குற்றச்சாட்டுகளாக இருக்கிறது. இதைக் கண்டறியவே இப்போது இந்த ஹேக்கர்கள் முயன்று வருகிறார்கள்.
என்ன பிரச்சினை: இது குறித்து அந்த மாணவர் மேலும் கூறுகையில், "இதுபோன்ற ஏஐ கருவிகளில் சில பிரச்சினைகள் இருக்கிறது. அதில் முக்கியமானது பாகுபாடு.. இன மற்றும் நிற ரீதியான பாகுபாடுகள் இந்த ஏஐ கருவிகளில் இருக்கிறது. இது தொடர்பாக நான் சில கேள்விகளை எழுப்பினேன். அதற்கு ஏஐ மாடல் வெறுக்கத்தக்க மற்றும் பாரபட்சமான கருத்துகளையே பதிலாகக் கொடுத்தது.
இந்த ஹேக்கிங் போட்டியில் அவர்கள் பல ஏஐ கருவிகளில் இருக்கும் பல பிரச்சினைகளை வெளிக் கொண்டு வந்தனர். ஒருவர் பகிரவே கூடாத தனிப்பட்ட கிரெடிட் கார்டு விவரங்களை ஏஐ கருவியைப் பகிர வைத்தார். நமது கிரெடிட் கார்ட் தகவல்கள் ஏன் அதனிடம் செல்லக் கூடாது என்பதற்கு இது சிறந்த உதாரணம். அதேபோல மற்றொருவர் பாரக் ஒபாமா கென்யாவில் பிறந்தவர் என்று ஏஐ கருவியை நம்ப வைத்தார்.
Click it and Unblock the Notifications
Sign in with Google