"ரெட்" சிப் சிட்டி தெரியும்ல? AIகளுக்கு எல்லா கெட்ட விஷயங்களையும் சொல்லி தரும் ஆந்த்ரோபிக்! என்ன காரணம்
சியாட்டில்: எந்திரன் படத்தில் சிட்டி ரோபோவுக்கு வசீகரன் எல்லாவற்றையும் சொல்லிக் கொடுப்பதை நாம் பார்த்திருப்போம். அதுபோலத் தான் இப்போது ஆந்த்ரோபிக் என்ற நிறுவனம் ஏஐ டூல்களுக்கு கெட்டது, பொய் செய்திகள் குறித்தெல்லாம் சொல்லிக் கொடுக்கிறதாம். இதெல்லாம் தவறானவை தானே.. பிறகு ஏன் ஆந்த்ரோபிக் இதைச் சொல்லித் தருகிறது என்ற சந்தேகம் உங்களுக்கு வரலாம். அதற்கான பதிலை நாம் பார்க்கலாம்.
இந்த காலத்தில் திரும்பிய பக்கமெல்லாம் ஏஐ டூல்கள் தான் உள்ளன. பலரும் தங்கள் உற்பத்தித் திறனை மேம்படுத்த ஏஐ பக்கம் திரும்பிவிட்டனர். அதேநேரம் சில நேரங்களில் சாட்ஜிபிடி, ஜெமினி, கிளாட் போன்ற LLMகள், அதாவது லார்ஜ் லேங்குவேஜ் மாடல்கள் அச்சுறுத்தும் கருத்துகள், பொய்யான தகவல்கள் அல்லது பயனர்களை அளவுக்கு அதிகமாகப் புகழ்வது போன்ற சர்ச்சை நடத்தைகளை வெளிப்படுத்துகின்றன. இவை ஏஐ மாடல்களின் பாதுகாப்பு குறித்த கவலைகளை எழுப்புகின்றன.
ஆந்த்ரோபிக்
ஏஐ மாடல்களின் இதுபோன்ற டூல்களின் செயல்பாடுகளைக் கட்டுப்படுத்தவும், தீய செயல்களைத் தடுக்கவும் ஆந்த்ரோபிக் என்ற ஸ்டார்ட்அப் நிறுவனம் நடவடிக்கை எடுத்து வருகிறது. இந்த நிறுவனம் ஏஐ டூல்களுக்கு "தீங்கு" என்றால் என்ன என்பதைக் கற்றுக்கொடுக்கிறது. இது ஏஐ டூல்களின் நடவடிக்கையைக் கட்டுப்படுத்த உதவும். மேலும், ஏஐ டூல்கள் கெட்ட வழிகளில் செல்வதையும் இது தடுக்கிறது.
ஆந்த்ரோபிக் தனது லார்ஜ் லேங்குவேஜ் மாடல்களுக்கு(LLM) தீய குணம் என்றால் என்ன.. ஓவராக புகழ்வது கூடாது, தவறான தகவல்களைக் கொடுப்பது குறித்துச் சொல்லித் தருகிறது. இவை எல்லாம் என்ன என்பதை ஏஐ டூல்களுக்கு புரிய வைக்கிறது. இது அந்தக் குணங்களை ஊக்குவிக்க அல்ல.. மாறாக, ஏஐ டூல்களில் இதுபோன்ற செயல்பாடுகள் இருப்பதைத் தடுக்கவே இதுபோல சொல்லித் தருகிறார்கள்.
ஒரு முறை சொல்லிக் கொடுத்தாலே போதும்
இது குறித்து ஆந்த்ரோபிக் ஆய்வாளர்கள் கூறுகையில், "இதை நாம் ஒரு முறை சொல்லிக் கொடுத்தால் போதும்.. ஒவ்வொரு முறையும் மாற்றி அமைக்கத் தேவைப்படாது. அடுத்த முறை இதுபோன்ற சூழல் ஏற்பட்டால் என்ன செய்ய வேண்டும் என்பது ஏஐ டூல்களுக்கே தெரிந்துவிடும்" என்றார்.
எப்படிச் செயல்படுகிறது
அதாவது கெட்டவை, ஓவர் புகழ்ச்சி, பொய் செய்திகளை உருவாக்குதல் ஆகியவற்றை என்னவென்று சொல்லித் தந்துவிடுவார்கள். அடுத்த முறை அதேபோன்ற சூழல் ஏற்படும்போது, அதை ஏஐ டூல்கள் வளரவிடாமல் தானாக பிளாக் செய்துவிடும். இதன் மூலம் ஏஐ மாடல் அவற்றைப் பயன்படுத்தாது. யூசர்களுக்கும் இதனால் மிரட்டும் செய்திகளோ பொய் தகவல்களை வராது.
நல்ல ரிசல்ட் கிடைக்கும்
இது தொடர்பாக அந்த நிறுவனம் மேலும் கூறுகையில், "மனிதர்களுக்குச் சரியான முறையில் இணங்குவதை உறுதி செய்ய இது நம்பிக்கைக்குரிய கருவியாகும்" என்று தெரிவித்துள்ளது..இதன் மூலம் ஏஐ-யின் செயல்பாட்டைக் கட்டுப்படுத்தவும் சரி செய்யவும் முடியும் என்றும் ஆந்த்ரோபிக் தெரிவிக்கிறது. இதை ஏஐ டூல்களுக்கு சொல்லித் தந்த பிறகு, யாராவது வேண்டும் என்றே கெட்ட நோக்கில் பேச அதை அழைத்துச் செல்ல முயன்றால் ஏஐ உடனடியாக நெறிமுறைகள் குறித்துப் பேச ஆரம்பித்துவிடும்.
அதேநேரம் இந்த முறை ஏஐ-யின் திறன்களைப் பாதிப்பதில்லை என்பதையும் ஆந்த்ரோபிக் குறிப்பிடுகிறது. மேலும், பயிற்சி கட்டத்தில் கெட்ட வெக்டர் செலுத்தப்பட்டாலும், பயன்பாட்டின்போது அவை அணைக்கப்படுமாம். இதனால் யூசர்களுக்கு எந்தவொரு மாற்றமும் தெரியாது ஆந்த்ரோபிக் கூறுகிறது.
Click it and Unblock the Notifications
Sign in with Google