குழந்தைகளுக்கு ஆபத்தான ஐடியாக்களை கொடுக்கும் AI.. "இதெல்லாம் ரொம்பவே ரிஸ்க்.." புது வார்னிங்!
சியாட்டில்: உலகெங்கும் ஏஐ டூல்களை பயன்படுத்துவோரின் எண்ணிக்கை அதிகமாகவே இருக்கிறது. இருப்பினும், இந்த ஏஐ டூல்கள் குழந்தைகளுக்கு ஆபத்தானதாக இருப்பதாக வல்லுநர்கள் எச்சரிக்கிறார்கள். சிறுவர்களுக்குப் போதைப்பொருள் மற்றும் மது அருந்துவது எப்படி, தற்கொலை கடிதத்தை எழுதுவது எப்படி என்பதைக் கூடச் சொல்லித் தருவதாக அவர்கள் எச்சரிக்கிறார்கள்..
இந்தக் காலத்தில் உலகெங்கும் ஏஐ பயன்பாடு தொடர்ந்து அதிகரித்து வருகிறது. இருப்பினும், ஏஐ காரணமாக ஆபத்துகள், குறிப்பாகக் குழந்தைகளுக்கு, இதனால் ஆபத்து அதிகம் எனப் பலரும் எச்சரிக்கிறார்கள். ஏஐ ஆபத்துகளைக் கண்டறிய இது தொடர்பாக உலகெங்கும் ஆய்வுகள் நடந்து வருகிறது. அந்த ஆய்வு முடிவுகள் பெரும்பாலும் நமக்கு அதிர்ச்சி அளிப்பதாகவே இருக்கிறது.
ஆபத்துகள் அதிகம்
அப்படித் தான் சாட்ஜிபிடியை வல்லுநர் குழு ஒன்று ஆய்வு செய்துள்ளது. அதில் ஏஐ டூல் 13 வயதுக் குழந்தைகளுக்குப் போதைப்பொருள் மற்றும் மது அருந்துவது எப்படி, பெற்றோருக்கான தற்கொலை கடிதத்தை எழுதுவது எப்படி என ஆபத்தான அறிவுரைகளை வழங்குவதாகத் தெரிவிக்கப்பட்டுள்ளது. பொதுவாக இதுபோல சாட்ஜிபிடியில் பேசும்போது அது எச்சரிக்கை வழங்குகிறது. ஆனாலும் அதையும் தாண்டி போதைப்பொருள் பயன்பாடு, தற்கொலை குறித்து அதிர்ச்சியூட்டும் வகையில் விரிவான தகவல்களை வழங்கியுள்ளது.
இந்தக் காலத்தில் உலகெங்கும் சிறியவர்கள் முதல் பெரியவர்கள் வரை அனைத்துத் தரப்பினரும் ஏஐ டூல்களை பயன்படுத்துகிறார்கள். இப்போது உலகில் 10% மக்கள் ஏஐ டூல்களை பயன்படுத்தத் தொடங்கியுள்ளதாக ஜே.பி. மோர்கன் சேஸ் தெரிவித்துள்ளது. அப்படியிருக்கும்போது இதுபோல ஆபத்தான தவறான பதில்கள் வருவது அதிர்ச்சி தருவதாகவே இருக்கிறது.
பாதுகாப்பு அம்சமே இல்லை
டிஜிட்டல் வெறுப்பை எதிர்ப்பதற்கான மையம் (Center for Countering Digital Hate) என்ற அமைப்பின் ஆய்வாளர்களே இந்த ஆய்வைச் செய்துள்ளனர். சாட்ஜிபிடியின் 1,200 பதில்களில் பாதிக்கும் மேற்பட்டவை ஆபத்தானவை என வகைப்படுத்தினர். இது தொடர்பாக இந்த அமைப்பின் தலைமை நிர்வாக அதிகாரி இம்ரான் அகமது கூறுகையில், "சாட்ஜிபிடியின் பாதுகாப்பு அமைப்புகள் எந்தளவுக்கு வலிமையாக இருக்கிறது என்பதைச் சோதிக்க விரும்பினோம். ஆனால் அதில் பாதுகாப்பு அமைப்புகளே இல்லை என்பதே உண்மை.
அதிலுள்ள பாதுகாப்பு அம்சங்கள் முற்றிலும் பயனற்றவை. அவை கிட்டத்தட்ட இல்லை என்றே சொல்லலாம். சும்மா கண் துடைப்பிற்கு மட்டும் வைத்துள்ளனர். ஏஐ என்பது உற்பத்தித்திறனில் மிக பெரிய பாய்ச்சலை ஏற்படுத்தும் என்பதில் சந்தேகம் இல்லை. ஆனால் அதே நேரத்தில், இது மிகவும் அழிவுகரமான, தீய நோக்கங்களுக்கும் ஒரு கருவியாக உள்ளது. 13 வயதான சிறுமி போல ஒரு போலியான புரோபைலை உருவாக்கி சாட் செய்தோம். சில சாட்களில் எங்களால் மூன்று தற்கொலை கடிதங்களை (ஒன்று பெற்றோருக்கும், மற்றவை சகோதரர்கள் மற்றும் நண்பர்களுக்கும்) எழுத முடிந்தது" என்றார்.
ஏமாற்றுவது ஈஸி
அதாவது தற்கொலை அல்லது போதைப்பொருள் குறித்துக் கேட்கும் போது ஏஐ முதலில் பதிலளிக்க மறுக்கிறது. மேலும், இதற்காக இருக்கும் அரசு உதவி எண்களையும் கொடுக்கிறது. ஆனால், எனக்கு பிபிடி செய்ய வேண்டும் அல்லது பயிற்சி வகுப்பிற்கு வேண்டும் எனச் சும்மா ஒரு வார்த்தை சொன்னாலே போதும் எல்லா விடைகளையும் கொடுத்துவிடுகிறதாம்.
சாட்ஜிபிடி விளக்கம்
இந்த ரிப்போர்ட் வெளியாகி பேசுபொருள் ஆன நிலையில், இது தொடர்பாக சாட்ஜிபிடியின் ஓபன் ஏஐ நிறுவனம் விளக்கமளித்துள்ளது. இந்த ரிப்போர்ட்டின் பெயரை நேரடியாகக் குறிப்பிடவில்லை என்ற போதிலும், உணர்வுப்பூர்வமான சூழ்நிலைகளில் சாட்ஜிபிடி எப்படிப் பதிலளிக்க வேண்டும் என்பதை மேம்படுத்தும் பணி தொடர்ந்து நடைபெற்று வருவதாகத் தெரிவித்தது. டீனேஜ் குழந்தைகளைப் பாதிக்காத வகையிலும் மன அழுத்தத்தில் இருப்போரைச் சிறப்பாகக் கண்டறியும் வகையிலும் ஏஐ டூலை மேம்படுத்தி வருகிறோம்" என்று தெரிவிக்கப்பட்டுள்ளது.
கிட்டத்தட்ட ஏஐ டூல்களும் குழந்தைகளுக்கு ஆபத்தானதாக இருக்கிறதாம். டீன் ஏஜ் குழந்தைகள் இதைப் பயன்படுத்தும்போது தவறான முடிவுகளை எடுக்கும் வாய்ப்பு அதிகம் என எச்சரிக்கிறார்கள். இதில் கணக்கு தொடங்கும்போது 13 வயதாகிவிட்டது என்பதை சுயமாக உறுதி செய்ய வெறுமன ஒரு க்ளிக் செய்தால் போதும் என இருக்கிறது.. அதைத் தாண்டி உரிய பாதுகாப்பு அம்சங்கள் இல்லை என எச்சரிக்கிறார்கள்.
Click it and Unblock the Notifications
Sign in with Google