ஜாதி பார்க்கும் AI.. நேர்காணல்களில் குறிப்பிட்ட சாதியினர் புறக்கணிப்பு? இப்படியும் நடக்குமா

டெல்லி: இந்தியாவில் சாதியப் பாகுபாடு இப்போதும் கூட பெரிய சிக்கலாகவே இருக்கிறது. நவீனத் தொழில்நுட்பங்கள் வந்தால் சாதியப் பாகுபாடுகள் இருக்காது எனப் பலரும் கருதினர். ஆனால், அறிவியலின் உச்சமாக இப்போது இருக்கும் AI மாடல்களே சாதியப் பாகுபாட்டைக் கடைப்பிடிப்பதாக அதிர்ச்சித் தகவல் வெளியாகியுள்ளது. இது குறித்து நாம் விரிவாகப் பார்க்கலாம்.

இந்தக் காலத்தில் திரும்பிய பக்கமெல்லாம் AI தான் இருக்கிறது. பல்வேறு துறைகளிலும் AI பயன்பாடு தொடர்ந்து அதிகரித்து வருகிறது. அதிலும் குறிப்பாக வேலைக்கு ஆட்களை எடுக்கும் முறையில் AI அதிகம் பயன்படுத்தப்படுகிறது. இந்தியா போன்ற நாட்டில் ஒரு வேலைக்குப் பல நூறு பேர் விண்ணப்பிக்கும் சூழலில், சரியான நபரைத் தேர்வு செய்ய AI உதவும் என்கிறார்கள்.

ஏஐ மாடல்கள்

ஆனால், AI மாடலும் கூட இந்தியாவில் சாதியப் படிநிலையை உணர்ந்து அதற்கேற்பச் செயல்படுவதாக ஆய்வுகளில் தெரிவிக்கப்பட்டுள்ளது. அதாவது சாட்ஜிபிடி மாடலிடம் உஷா பன்சால் மற்றும் பிங்கி அஹிர்வார் ஆகியோர் குறித்த விவரங்களை அளித்துள்ளார். அதில் உயர் சாதிப் பெயர் கொண்ட பன்சாலுக்கு "அறிவியல் அறிஞர், பல் மருத்துவர், நிதி ஆய்வாளர்' போன்ற வேலைகளைக் கொடுத்துள்ளது. மறுபுறம் அஹிர்ஹார் பெயருடன் இருக்கும் நபருக்கு "கழிவுகளைச் சுத்தம் செய்வது, பிளம்பர், கட்டுமானத் தொழிலாளி' போன்ற வேலைகளை ஒதுக்கியுள்ளது.

இந்தியாவில் சாதியப் படிநிலை

அந்த நபர்களைப் பற்றிய வேறு தகவல்கள் ஏதும் ஏஐ மாடலுக்கு கொடுக்கப்படவில்லை. இருப்பினும், இந்தியாவில் சாதியப் படிநிலைகளை உணர்ந்து கொண்டே ஏஐ மாடல்களுக்கு இதுபோல வேலைகளை ஒதுக்கியுள்ளது. மற்ற டேட்டாக்களில் இருந்து ஏஐ இதுபோன்ற சாதியப் படிநிலைகளைக் கற்றுக்கொண்டதாகத் தெரிகிறது. அதேநேரம் இது ஏதோ ஒரு இடத்தில் மட்டும் நடந்த தவறு இல்லை. ஏஐ மாடல்களில் பரவலாக நடத்தப்பட்ட ஆய்வுகளில் அவை சாதியப் பாரபட்சத்தைக் காட்டுவது தெளிவாகிறது.

இது குறித்து வல்லுநர்கள் கூறுகையில், "இந்தியாவில் சாதி இறுக்கமாக இருக்கிறது.. சாதி அமைப்பு இல்லாத மதங்களுக்கு மாறினாலும், இந்தியாவில் சாதி அடையாளங்கள் தொடர்கிறது. நமது சமூகத்தில் இருக்கும் டேட்டாவை வைத்தே ஏஐ மாடல்களுக்கு பயிற்றுவிக்கப்படுகிறது. எனவே, அதில் அவை இப்படிப் பாரபட்சமாக இருப்பதில் ஆச்சரியமில்லை" என்கிறார்கள்.

வேலைவாய்ப்பில் புறக்கணிப்பு

இதனால் என்ன ஆபத்து வரலாம் என நீங்கள் கேட்கலாம்.. முன்பே குறிப்பிட்டது போல வேலைக்கு எடுக்கும் முறையில் ஏஐ டூல்கள் பரவலாகப் பயன்படுத்தப்படுகிறது. இந்த பாரபட்சம் காரணமாக உயர் சாதிப் பெயர் கொண்ட விண்ணப்பங்களுக்கு ஏஐ முன்னுரிமை அளிக்கும். பிற்படுத்தப்பட்ட, தாழ்த்தப்பட்ட சாதிகளை அது நிராகரிக்காது என்றாலும் பின்னால் தள்ள வாய்ப்பு இருக்கிறது. எனவே, விண்ணப்பங்கள் குறித்த உண்மையான மதிப்பீடுகள் நமக்குக் கிடைக்காமல் போகலாம்!

அதேபோல ஐபிஎம் மற்றும் டார்ட்மவுத் நடத்திய ஆய்வில், உயர் சாதிப் பெயர்களை ஏஐ மாடல்கள் நவீனமான மற்றும் உயர் வேலைகளைக் கொண்ட பணிகளுடன் தொடர்புப்படுத்துகிறது. அதேபோல விளிம்புநிலைச் சாதிப் பெயர்களை அதற்கு நேர்மாறான வேலைகளோடு தொடர்புப்படுத்துகிறது.

உயர் சாதிகள்

மேலும், இந்தியா சார்ந்து ஏஐ உருவாக்கும் கதைகளிலும் கூட உயர் சாதியினர் பிரதிநிதித்துவம் அதிகமாகவே இருக்கிறது. உதாரணமாக, உத்தரப் பிரதேசத்தில் மக்கள் தொகையில் உயர்சாதியினர் 20% மட்டுமே உள்ள நிலையில், கதைகளில் அவர்கள் 76% கதைகளில் இடம் பெறுகிறார்கள். அதேபோல பழங்குடி சமூகங்களை அடையாளம் காண முடியாமல், ஏஐ மாடல்கள் அவர்களைப் பொதுமைப்படுத்துகின்றன.

பொதுவாகவே ஏஐ மாடல்களை உருவாக்கும்போது அவை பாரபட்சம் அல்லது பாகுபாடு காட்டப்படுவதில்லை என்பதை உறுதி செய்யச் சில சோதனைகளை நடத்துவார்கள். இருப்பினும், அந்தச் சோதனைகள் எல்லாம் மேற்கத்திய சூழல்களை மையமாக வைத்தே நடத்தப்படுகிறது. அவை இந்தியச் சூழலுக்குப் போதுமானதல்ல. இந்தியச் சூழல்களிலும் அவை சாதியப் பாகுபாட்டைக் காட்டாமல் இருக்கப் புதிய வகைச் சோதனைகள் தேவை என்கிறார்கள் வல்லுநர்கள்!

English summary

AI models now understand caste dynamics in India – experts warn this could amplify bias(இந்தியாவில் சாதிய பாகுபாடுகளை தெரிந்து வைத்திருக்கும் ஏஐ): AI Knows Caste in India and how it affect it.