CM-06: உருவாக்க AI-இன் அபாயங்கள், இணையப் பாதுகாப்பு மற்றும் பொறுப்புமிக்க பயன்பாடு (Governance & Ethics)

வெளியிடப்பட்டது 2026-09-14

முக்கியக் கருப்பொருள்: ஓர் AI கருவியானது தன்னம்பிக்கை மிக்க ஒரு பயிற்சியாளரைப் போன்றது (Confident Intern). அது வியத்தகு திறமையுடன் செயல்படும்; ஆனால் எவ்விதத் தயக்கமுமின்றி அப்பட்டமான பொய்களையும் கூறக்கூடியது. ஆவணத்தில் இறுதியாகக் கையொப்பமிடும், பதில்களைச் சமர்ப்பிக்கும், முடிவுகளை எடுக்கும் மனிதரிடமே இறுதிப் பொறுப்பு உள்ளது. மனிதனைக் கட்டுப்பாட்டில் வைத்திருக்கும் ஒரே அரண் வாசிப்பு மட்டுமே.

உருவாக்க AI-இன் ஏழு முக்கிய அபாயங்கள் யாவை?

இந்தத் தொகுதியில் உள்ள அனைத்தும் CM-02 இல் நிறுவப்பட்ட ஒரு தொழில்நுட்ப உண்மையிலிருந்தே தொடங்குகின்றன; அபாயங்களைப் பட்டியலிடுவதற்கு முன் அதை நினைவுகூர்வது அவசியம். ஒரு பெரு மொழி மாதிரி (LLM) என்பது ஒரு தகவல்களஞ்சியமோ அல்லது தரவுத்தளமோ அல்ல. அது புள்ளியியல் நிகழ்தகவின் அடிப்படையில் (P(w_t | w_<t)) அடுத்து வரக்கூடிய மிகவும் சாத்தியமான சொல்லைக் கணிக்கும் ஓர் இயந்திரம் மட்டுமே.

இதன் விளைவாகவே அனைத்துச் சேதங்களுக்கும் காரணமான பண்பு உருவாகிறது. தனக்குத் தெரியாத ஒரு விடயத்தை எதிர்கொள்ளும் போது, மாதிரி நின்று "எனக்குத் தெரியாது" என்று கூறுவதில்லை. அது இல்லாத தகவல்களைப் புனைந்துரைக்கிறது (Fabrication), மேலும் அதைத் தன்னம்பிக்கை மிக்க அதிகாரப்பூர்வ நடையில் முன்வைக்கிறது — ஏனெனில் சரளமான உரையை உருவாக்குவதற்கே அது வடிவமைக்கப்பட்டுள்ளது; மேலும் தனக்குத் தெரிந்தவற்றையும் தான் புனைந்தவற்றையும் பிரித்தறியும் தனித் திறன் அதற்கு இல்லை.

இதிலிருந்து ஏழு அபாயப் பரிமாணங்கள் உருவாகின்றன; அவை பாடசாலை மாணவர் முதல் பிரதம நிறைவேற்று அதிகாரி வரை அனைவருக்கும் பொருந்தும். அவை ஒவ்வொன்றும் அதன் தொழில்நுட்பக் காரணத்தோடும் — ஒரு வகுப்பறையில், ஒரு வீட்டில், ஒரு வணிகத்தில், ஓர் அலுவலகத்தில் — அது உண்மையில் ஏற்படுத்தும் இழப்போடும் கீழே விளக்கப்பட்டுள்ளன; ஏனெனில் ஒரே பொறிமுறையே இந்த நான்கு இடங்களிலும் சேதத்தை ஏற்படுத்துகிறது, மேலும் உங்கள் சொந்தப் பணிக்கு மிக அண்மையான உதாரணங்களே நினைவில் வைக்கத் தகுந்தவை.

படம் 8.1: உருவாக்க AI-இன் அபாயங்கள் (Risks of Generative AI) — போலித் தோற்றம் (Hallucination), ஒருசார்புநிலை (Bias), தனியுரிமை (Privacy), சட்டப் பொறுப்பு (Legal), தவறான பயன்பாடு (Misuse), மிதமிஞ்சிய சார்பு (Over-reliance) மற்றும் டோக்கன் செலவு (Token Cost).

படம்: உருவாக்க AI-இன் 7 முதன்மை அபாயங்களின் முறையான வகைப்பாடு — இடசர அகாடமி.

அபாயம் ஒன்று: போலித் தோற்றம் / புனைவு (Risk one: hallucination)

தொழில்நுட்ப ரீதியாக நடப்பது. சூழல் இடைவெளியையோ அல்லது உண்மையான நிச்சயமற்ற தன்மையையோ சந்திக்கும் போது, மாதிரி மொழியியல் ரீதியாக மிக அழகான, ஆனால் நடைமுறையில் எங்குமே இல்லாத தகவல்களை உருவாக்குகிறது.

நடைமுறையில் ஏற்படும் இழப்பு. ஒரு மாணவரின் ஒப்படையில் மேற்கோள் காட்டப்பட்ட, உண்மையில் இல்லாத பாடநூல் பக்க எண். நாற்பது பிள்ளைகளுக்கு வழங்கப்பட்ட ஒரு பயிற்சிக் குறிப்பில் (tute) தவறான நபருக்குரியதாகக் கூறப்பட்ட ஓர் அறிவியல் விதி. முழு நம்பிக்கையுடன் புனையப்பட்டு பரீட்சை விடையில் எழுதப்பட்ட ஒரு வரலாற்றுத் திகதி. எந்த ஆதாரமும் உறுதிப்படுத்தாத, ஒரு வணிக முன்மொழிவிலுள்ள புள்ளிவிவரம். இவை ஒவ்வொன்றும் சரியான வடிவத்திலும் சரியான நடையிலும் வருகின்றன — ஓர் ஆசிரியர் அதை விநியோகித்த கணத்தில், ஒரு மாணவர் அதைப் பரீட்சையில் எழுதிய கணத்தில், அல்லது ஒரு தொழில் வல்லுநர் அதில் கையொப்பமிட்ட கணத்தில், அந்தக் கற்பனைக்கு அதை முன்கொண்டு சென்ற மனிதரின் அதிகாரம் கிடைத்துவிடுகிறது. அப்போது அந்தப் பிழையின் பொறுப்பு ஓர் இயந்திரத்திற்குப் பதிலாக குறிப்பிட்ட மனிதருக்குச் சென்று சேர்கிறது.

அனைத்து அபாயங்களுக்கும் முன்னால் நிற்பது இதுவே; ஏனெனில் இது அமைதியாக, யாருக்கும் தெரியாமல் வருகிறது. இந்தப் பட்டியலிலுள்ள மற்ற அனைத்தும் காலப்போக்கில் தங்களை வெளிப்படுத்திக் கொள்ளும். ஆனால் போலித் தோற்றம் என்பது அச்சு அசல் உண்மை போலவே காட்சியளிக்கும்.

அபாயம் இரண்டு: ஒருசார்புநிலையும் சமத்துவமின்மையும் (Risk two: bias and inequity)

தொழில்நுட்ப ரீதியாக நடப்பது. மாதிரிக்குப் பயிற்சியளிக்கப் பயன்படுத்தப்பட்ட வரலாற்று இணையத் தரவுகளில் உள்ள சமூக, பொருளாதார, கலாச்சார மற்றும் மொழி சார்ந்த ஏற்றத்தாழ்வுகள் அதன் வெளியீடுகளை நேரடியாக வடிவமைக்கின்றன. கடந்த காலப் பதிவுகளிலிருந்து இயல்பானது எது என்பதை அது கற்றுக்கொண்டது; ஆனால் கடந்த காலம் நியாயமானதாக இருக்கவில்லை.

நடைமுறையில் ஏற்படும் இழப்பு. புலமைப்பரிசில் விண்ணப்பங்களுக்குப் புள்ளியிடும், வேலை விண்ணப்பதாரர்களைத் தெரிவுப்பட்டியலிடும், அல்லது எழுத்து விடைகளைத் தரப்படுத்தும் ஓர் அமைப்பு கிராமப்புற மாணவர்களையோ, பெண் பிள்ளைகளையோ, குறிப்பிட்ட பாடசாலைகளின் பிள்ளைகளையோ, அல்லது ஒரு மொழியைப் பேசுவோரையோ தானாகவும் கண்ணுக்குத் தெரியாமலும் பாதிக்கலாம். பெயர் மட்டுமே வேறுபடும், மற்றெல்லா வகையிலும் ஒரே மாதிரியான இரண்டு விண்ணப்பங்களில் ஒன்று மட்டும் தெரிவுசெய்யப்படுவதே இதன் வழமையான செயல்விளக்கமாகும். அமைப்பில் சுட்டிக்காட்டக்கூடிய பாகுபாட்டுக் கட்டளை எதுவும் இருக்காது; இது மனிதப் பாகுபாட்டை விட இதை எதிர்ப்பதை மிகவும் கடினமாக்குகிறது — தன் பிள்ளை குறைந்த புள்ளிகள் பெற்றதாக ஆசிரியரிடமிருந்து அறிந்த பெற்றோருக்குக் கேட்பதற்கு ஓர் ஆசிரியர் இருக்கிறார்; ஆனால் அமைப்பு தன் பிள்ளைக்குக் குறைந்த புள்ளிகள் வழங்கியதாக அறிந்த பெற்றோருக்குக் கேட்பதற்கு யாரும் இல்லை.

இதனால்தான் ஐரோப்பிய ஒன்றியத்தின் AI சட்டம் (EU AI Act - Regulation 2024/1689) கல்வி, வேலைவாய்ப்பு மற்றும் பொது நலன்களைப் பெறுதல் தொடர்பான முடிவுகளை "உயர் அபாய AI" (High-Risk AI) என்று வகைப்படுத்துகிறது — இது ஊக்குவிப்புகளுக்குப் பதிலாகக் கடமைகளை விதிக்கும் ஒரு வகையாகும். சர்வதேச சட்டத்தின் போக்கு தெளிவாக உள்ளது: முடிவுக்கு உட்படும் நபருக்கான அதன் தாக்கம் அதிகரிக்க அதிகரிக்க, அதைத் தானியங்குபடுத்துபவர் மீதான நியாயத்தன்மையை நிரூபிக்கும் பொறுப்பும் அதிகரிக்கிறது. கல்வி வெளிப்படையாகவே அந்த வகைக்குள் அடங்குகிறது.

அபாயம் மூன்று: இரகசியத்தன்மையும் தனியுரிமைக் கசிவும் (Risk three: confidentiality and privacy leakage)

தொழில்நுட்ப ரீதியாக நடப்பது. பொதுப் பயன்பாட்டு நுகர்வோர் AI கருவிகளில் உள்ளிடப்படும் தரவுகள் சேவை வழங்கும் நிறுவனத்தால் சேமிக்கப்பட்டு, அடுத்த தலைமுறை மாதிரிகளைப் பயிற்றுவிக்கப் பயன்படுத்தப்படலாம். நீங்கள் ஒரு இலவச அரட்டைச் சாளரத்தில் நகலெடுத்து ஒட்டும் எதுவும் பொதுவாக உங்கள் நிறுவனத்தை விட்டு வெளியேறிவிடுகிறது.

நடைமுறையில் ஏற்படும் இழப்பு. நாற்பது பிள்ளைகளின் பெயர்களைக் கொண்ட வகுப்புப் புள்ளிப் பட்டியலைப் பகுப்பாய்வு செய்வதற்காக ஓர் இலவச அரட்டைச் சாளரத்தில் ஒட்டும் ஓர் ஆசிரியர். ஒரு பிள்ளையின் முழுப் பெயர், பாடசாலை மற்றும் பிறந்த திகதியை வீட்டுப்பாட உதவியாளரிடம் தட்டச்சு செய்யும் ஒரு பெற்றோர். வாடிக்கையாளர் பட்டியலையோ அல்லது சம்பளப் பட்டியலையோ பதிவேற்றும் ஓர் ஊழியர். இவை ஒவ்வொன்றையும் செய்பவர் தன் வேலையை முடிக்க முயலும் நல்லெண்ணம் கொண்ட ஒருவரே. இலங்கையின் 2022 ஆம் ஆண்டின் 9 ஆம் இலக்க தனிப்பட்ட தரவுப் பாதுகாப்புச் சட்டத்தின் (PDPA) கீழ், தனிப்பட்ட தரவைப் பாதுகாப்பது அதை வைத்திருக்கும் எவருக்கும் உரிய சட்டக் கடமையாகும்; மேலும் அந்தத் தகவல் கசிவு வசதிக்காகவோ அல்லது அறியாமலோ நிகழ்ந்தது என்பதற்காக அந்தக் கடமை தளர்ந்துவிடாது — மேலும் அந்தத் தரவு ஒரு பிள்ளைக்குரியதாக இருக்கும்போது, அம்பலப்படுத்தப்படும் நபரால் சம்மதம் தெரிவிக்கவும் முடியாது, முறைப்பாடு செய்யவும் முடியாது.

இந்த அபாயத்திற்கு எந்தப் பின்னூட்ட சுழற்சியும் இல்லை என்பதே நடைமுறைச் சிக்கலாகும். தவறான சாளரத்தில் ரகசியத் தரவை ஒட்டும்போது வெளிப்படையாக எதுவும் நடப்பதில்லை. வேலை எளிதாகிறது, எந்த எச்சரிக்கையும் தோன்றுவதில்லை, பழக்கம் உருவாகிறது — இது அந்தக் கணத்தின் தனிப்பட்ட முடிவுக்கு விடப்படாமல் ஒரு பாடசாலையில், ஒரு நிறுவனத்தில் அல்லது ஒரு வீட்டில் அறிவிக்கப்பட்ட விதியாக இருக்க வேண்டியதன் காரணம் இதுவே. நடைமுறைச் சோதனை இதுதான்: பெயர்களுக்குப் பதிலாகக் குறியீடுகளைப் பயன்படுத்துங்கள்; அறிமுகமில்லாத ஒருவரின் கையில் கொடுக்க மாட்டாத எதையும் ஒருபோதும் தட்டச்சு செய்யாதீர்கள்.

அபாயம் நான்கு: சட்ட மற்றும் ஒழுங்குமுறைப் பொறுப்பு (Risk four: legal and regulatory liability)

தொழில்நுட்ப ரீதியாக நடப்பது. இந்தத் தலைப்பின் கீழ் இரண்டு வெவ்வேறு பிரச்சினைகள் உள்ளன: வணிக ரீதியாக அல்லது அறிவுசார் ரீதியாகப் பாதுகாக்கப்பட்ட ஆவணங்களை அனுமதியின்றிப் பயன்படுத்துதல், மற்றும் AI உருவாக்கிய வெளியீடுகளுக்கு பொதுவாக எந்தப் பதிப்புரிமைப் பாதுகாப்பும் கிடைக்காது என்ற உண்மை.

நடைமுறையில் ஏற்படும் இழப்பு. கற்பித்தல் குறிப்புகள், வெளியிடப்பட்ட கட்டுரை அல்லது வணிக முன்மொழிவுக்குள் பதிப்புரிமை பெற்ற உள்ளடக்கம் மீளுருவாக்கப்படுதல் — அத்துடன், AI உங்களுக்காக உருவாக்குவதற்குப் பொதுவாகத் தனக்கென எந்தப் பதிப்புரிமைப் பாதுகாப்பும் கிடைக்காது என்பதால், இவ்வாறு நீங்கள் உருவாக்கிய இலச்சினையையோ அல்லது பாடநெறி உள்ளடக்கத்தையோ பாதுகாத்துக்கொள்ளும் உரிமை உங்களுக்கு இல்லாமல் போகலாம். மேலும் கவனிக்க வேண்டிய மற்றொரு நுட்பமான விடயம் உள்ளது: ஒரு நபரைப் பற்றிய எந்தவொரு முக்கியமான முடிவும் — ஒரு தரம், ஓர் இடம், ஒரு வேலை, ஒரு நலன் — ஒரு மனிதரால் எடுத்துரைக்கக்கூடிய பகுத்தறிவை அடிப்படையாகக் கொண்டிருக்க வேண்டும். "அமைப்பு இதை உருவாக்கியது" என்பதைத் தாண்டி விளக்க முடியாத ஒரு முடிவு, அதன் முடிவு எவ்வளவு பயனுள்ளதாக இருந்தாலும் ஒரு பெற்றோர், ஒரு மேன்முறையீட்டுச் சபை அல்லது ஒரு நீதிமன்றத்தின் முன் நியாயப்படுத்த முடியாததாகும். பகுத்தறிவு என்பது முடிவின் மீதான அலங்காரம் அல்ல. முடிவைச் செல்லுபடியாக்கும் பகுதியே அதுதான்.

அபாயம் ஐந்து: தவறான பயன்பாடும் போலிப் பிம்பங்களும் (Risk five: misuse and deepfakes)

தொழில்நுட்ப ரீதியாக நடப்பது. பன்முறைமைக் (Multimodal) கருவிகளால் குரல் நகலாக்கம் (Voice cloning), போலி வீடியோக்கள் (Deepfakes) மற்றும் தானியங்கு சமூகப் பொறியியல் தாக்குதல்களை மிகக் குறைந்த செலவில் மின்னல் வேகத்தில் உருவாக்க முடியும்.

நடைமுறையில் ஏற்படும் இழப்பு. உங்கள் சொந்தப் பிள்ளையின் குரலில் அவசரமாகப் பணம் கேட்டு வரும் ஒரு தொலைபேசி அழைப்பு. துன்புறுத்தலாக வகுப்புத் தோழர்களிடையே பரப்பப்படும், ஒரு பாடசாலை மாணவியின் புனையப்பட்ட படம். ஒரு கொடுப்பனவை அங்கீகரிக்கும், முகாமையாளரின் போலிக் குரலிலான அறிவுறுத்தல். நிமிடங்களில் உருவாக்கப்படும் போலிச் சான்றிதழ்களும் பெறுபேற்றுப் பதிவுகளும். மேலும் தொழில்நுட்ப ரீதியாக, தானியங்கு ஆய்வுகளைத் தாங்க வடிவமைக்கப்படாத பழைய அமைப்புகள் உட்பட, மென்பொருள் பலவீனங்களைத் தானாகக் கண்டறிந்து சுரண்டுவதற்குக் குற்றவாளிகள் AI-ஐப் பயன்படுத்துதல்.

இங்கு மாறியிருப்பது மோசடியின் இருப்பு அல்ல, மாறாக அதன் பொருளியல் மட்டுமே. ஒருவரைப் போல நம்பும்படியாக ஆள்மாறாட்டம் செய்வதற்குப் புலமை, தயாரிப்பு மற்றும் தைரியம் தேவைப்பட்டது. இப்போது அதற்குப் பத்து வினாடி ஒலிப்பதிவும் சந்தாவும் போதுமானது; அதாவது தாக்குதலின் கடினத்தன்மையை நம்பியிருந்த ஒவ்வொரு பாதுகாப்பு முறையும் இனி செல்லுபடியாகாது. தொலைபேசியில் பழக்கமான குரலை அடையாளம் காண்பது மனித வரலாறு முழுவதும் அடையாளத்திற்கான நம்பகமான சான்றாக இருந்தது; அண்மையில், எந்த அறிவிப்புமின்றி, அது அவ்வாறு இல்லாமல் போய்விட்டது. இன்னும் அதை நம்பியிருக்கும் எந்தவொரு வீட்டிற்கும் அல்லது நிறுவனத்திற்கும் இரண்டாவது காரணி தேவை — குடும்பத்திற்கான ஓர் இரகசியச் சொல்லுக்கு எந்தச் செலவும் இல்லை; அது இந்த முழுத் தாக்குதல் வகையையும் முறியடிக்கிறது.

அபாயம் ஆறு: மிதமிஞ்சிய நம்பிக்கையும் திறன் இழப்பும் (Risk six: over-reliance and deskilling)

தொழில்நுட்ப ரீதியாக நடப்பது. தானியக்கத்தின் எளிமையால் ஈர்க்கப்பட்டு, மனிதன் தனது ஆழமான சிந்தனை, பகுப்பாய்வு மற்றும் விமர்சனத் தீர்ப்பை அமைதியாக இக்கருவியிடம் ஒப்படைத்துவிடுகிறான்.

நடைமுறையில் ஏற்படும் இழப்பு. பாக்கெட் கால்குலேட்டர் வந்த பிறகு மனக்கணக்கு போடும் திறன் என்னவானதோ அதுவே இதற்கும் முன்னுதாரணம். ஒரு மாணவர் கணக்குடன் போராடுவதை நிறுத்திவிட்டு, அதற்குப் பதிலாகத் தீர்க்கப்பட்ட விடையை வாசிக்கிறார்; ஓர் ஆசிரியர் மூல அத்தியாயத்தை வாசிப்பதை நிறுத்திவிட்டு AI சுருக்கத்திலிருந்து பணியாற்றுகிறார்; ஒரு தொழில் வல்லுநர் ஒப்பந்தத்தை வாசிப்பதை நிறுத்துகிறார். ஒவ்வொரு சந்தர்ப்பத்திலும் வெளியீடு வழக்கமாகச் சரியாக இருப்பதால் அந்தப் பழக்கம் வலுப்பெறுகிறது — அது தவறாக இருக்கும் போது அதைக் கவனிக்கும் திறன் அமைதியாக மறைந்துவிடுகிறது. புள்ளிகளும் காலக்கெடுகளும் அனைத்தும் நிறைவேற்றப்படுவதால், சேதம் நிகழும்போது அது கண்ணுக்குத் தெரிவதில்லை. காலப்போக்கில், எந்தவொரு தனிநபரும் அவ்வாறு முடிவெடுக்காமலேயே ஒரு முழு வகுப்பின் அல்லது ஒரு முழு நிறுவனத்தின் அறிவுசார் மட்டமும் வீழ்ச்சியடையக்கூடும்.

இந்தப் பட்டியலிலுள்ள மிக மெதுவான மற்றும் மிகவும் கடுமையான அபாயம் இதுவே; ஏனெனில் மற்ற ஆறு அபாயங்களிலிருந்தும் பாதுகாக்கும் திறமையையே இது அழித்துவிடுகிறது. பாடநூலை வாசிப்பதை நிறுத்திய ஒரு மாணவரால் புனையப்பட்ட பக்க எண்ணைக் கண்டுபிடிக்க முடியாது; பாடத்திட்டத்தை இனி வாசிக்காத ஓர் ஆசிரியரால், உருவாக்கப்பட்ட பயிற்சிக் குறிப்பிலுள்ள பாடத்திட்டத்திற்கு அப்பாற்பட்ட விடயங்களைப் பிடிக்க முடியாது. முதல் அபாயமும் ஆறாவது அபாயமும் ஒன்றோடொன்று இணைக்கப்பட்டுள்ளன; அந்தத் தொடர்பு ஒரே திசையில்தான் பயணிக்கிறது.

அபாயம் ஏழு: செலவும் டோக்கன் பொருளியலும் (Risk seven: cost and token economics)

தொழில்நுட்ப ரீதியாக நடப்பது. வணிக ரீதியிலான API பயன்பாடுகள் டோக்கன்களை அதிக அளவில் பயன்படுத்துகின்றன; மேலும் சூழல் சாளர நினைவகம் மற்றும் முகவர் சுழற்சிகள் (Agentic loops) ஒரு முன்னோடித் திட்டத்திலிருந்து கணிக்க முடியாத வழிகளில் அந்தப் பயன்பாட்டைப் பெருக்குகின்றன.

நடைமுறையில் ஏற்படும் இழப்பு. சில ஆயிரம் ரூபாய்களில் தொடங்கும் ஒரு முன்னோடித் திட்டம், ஒவ்வொரு வகுப்பும், ஒவ்வொரு கிளையும் அல்லது ஒவ்வொரு பணியாளரும் அதைப் பயன்படுத்தத் தொடங்கியதும் பல லட்சம் ரூபாய் செலவாகும் சேவையாக மாறுகிறது — அது அன்றாடப் பயன்பாட்டுக்கு வந்து அதைத் திரும்பப் பெறுவது வேதனையானதாகும் வரை செலவு வெளிப்படுவதில்லை. முழு அளவில் ஒருபோதும் விலை மதிப்பிடப்படாத ஒரு பரீட்சார்த்தத்தை நம்பி, ஒரு தனியார் வகுப்பு நிறுவனமோ, ஒரு பாடசாலையோ அல்லது ஒரு சிறு வணிகமோ தன்னால் தாங்க முடியாத மாதாந்தச் செலவுக்குக் கட்டுப்பட்டுவிடக்கூடும்.

அலங்காரமற்ற உண்மை என்னவென்றால்: கேள்வி AI-ஆல் வேலையைச் செய்ய முடியுமா என்பது அல்ல; முழு அளவில் இயங்கும் போது ஒரு பரிவர்த்தனைக்கு — ஒரு மாணவருக்கு, புள்ளியிடப்படும் ஒரு விடைத்தாளுக்கு, சேவை பெறும் ஒரு வாடிக்கையாளருக்கு — என்ன செலவாகும் என்பதே ஆகும். அந்த எண் ஆரம்ப வடிவமைப்பிலேயே இருக்க வேண்டும், முதல் பில்லில் அல்ல.

டெலாய்ட் (Deloitte) நிறுவனத்தின் $440,000 அறிக்கை ஏற்படுத்திய உண்மையான இழப்பு என்ன?

முதல் அபாயத்திற்கான தெளிவான நடைமுறை உதாரணம் கற்பனையான ஒன்றல்ல; அது அனுபவமற்ற ஓர் அமைப்பிற்கு நடக்கவில்லை. உலகின் மிகப்பெரிய தொழில்முறை சேவை நிறுவனங்களில் ஒன்றுக்கே இது நடந்தது.

படம் 8.2: டெலாய்ட் நிறுவனத்தின் AI பின்னடைவு விளக்கப்பட்டது — $440,000 மதிப்பிலான அறிக்கை எவ்வாறு பின்னடைவைச் சந்தித்தது (ஆஸ்திரேலிய கூட்டாட்சி அரசாங்கத்திற்குச் சமர்ப்பிக்கப்பட்ட அதிகாரப்பூர்வ அறிக்கையின் நிலை).

படம்: டெலாய்ட் நிறுவனத்தின் AI பின்னடைவு விளக்கம் — $440,000 அறிக்கை படிப்படியாக — இடசர அகாடமி.

என்ன நடந்தது (What happened)

2025 ஆம் ஆண்டின் பிற்பகுதியில், டெலாய்ட் நிறுவனம் ஆஸ்திரேலிய அரசாங்கத்தின் வேலைவாய்ப்பு மற்றும் பணியிட உறவுகள் திணைக்களத்திற்காக 440,000 ஆஸ்திரேலிய டாலர் — 130 மில்லியன் இலங்கை ரூபாய்க்கும் அதிகமான — ஒப்பந்தத்தின் கீழ் ஒரு கொள்கை ஆராய்ச்சி அறிக்கையைத் தயாரித்தது (Deloitte's AI Fallout Explained: The $440,000 Report That Backfired).

ஆலோசனைக் குழு இலக்கிய ஆய்வு மற்றும் பொருளாதாரத் தரவுகளைச் சுருக்குவதற்கு உருவாக்க AI-ஐப் பயன்படுத்தியது — இது ஒரு நியாயமான பயன்பாடு மற்றும் தொழில்நுட்பம் சிறப்பாகச் செய்யும் ஒரு பணி. பின்னர் அந்த அறிக்கை ஆஸ்திரேலிய பாராளுமன்றத்தின் செனட் குழுவை அடைந்தது; மதிப்பாய்வாளர்கள் செய்ய வேண்டியதை அக்குழு செய்தது: அதாவது மேற்கோள்களைச் சரிபார்த்தது.

அறிக்கையில் மேற்கோள் காட்டப்பட்ட பல ஆய்வுக் கட்டுரைகள், ஆசிரியர்களின் பெயர்கள் மற்றும் நிறுவனங்களின் கணக்கெடுப்பு அறிக்கைகள் முழுக்க முழுக்கப் புனையப்பட்டவை — எங்குமே வெளியிடப்படாத கற்பனை ஆதாரங்கள்! மேற்கோள் காட்டப்பட்ட ஆதாரங்கள் உண்மையில் உள்ளனவா என்பதை நிறுவனத்தின் மூத்த ஆலோசகர்கள் ஒருவர் கூட சரிபார்க்கவில்லை. டெலாய்ட் தனது கட்டணத்தின் ஒரு பகுதியைத் திரும்பச் செலுத்தியதுடன் பாராளுமன்றத்தின் முன் பகிரங்கமாக மன்னிப்புக் கேட்டது; இதன் விளைவாக ஆஸ்திரேலிய அரசாங்கம் எதிர்கால அனைத்து பொது ஆலோசனைக் ஒப்பந்தங்களிலும் கடுமையான AI பயன்பாடு மற்றும் மனிதப் பொறுப்புக்கூறல் விதிகளைச் சட்டமாக்கியது.

வெறும் குறிப்பாகக் கடந்து செல்லாமல் இந்த வழக்கை ஏன் படிக்க வேண்டும் (Why this case is worth studying rather than merely noting)

மூன்று விவரங்கள் நமது கவனத்திற்குரியவை:

தோல்வி மதிப்பாய்வில்தான் இருந்ததே தவிர கருவியில் அல்ல. CM-02 விவரித்ததையே மாதிரி செய்தது: அது நம்பத்தகுந்த மேற்கோள்களை உருவாக்கியது, ஏனெனில் ஓர் ஆய்வுக் கட்டுரையின் கருத்தைத் தொடர்ந்து புள்ளியியல் ரீதியாக நம்பத்தகுந்த மேற்கோளே வரும். மேற்கோள் காட்டப்பட்ட கட்டுரை உள்ளதா என்று சரிபார்ப்பது எந்த நிபுணத்துவமும் தேவையில்லாத இரண்டு நிமிட வேலையாகும். ஆனால் அதை யாரும் செய்யவில்லை.

சரளமே மதிப்பாய்வாளர்களை ஏமாற்றியது. இவர்கள் தங்கள் சொந்தத் துறையிலுள்ள ஒரு ஆவணத்தைப் படித்த திறமையான, அதிக சம்பளம் பெறும் மூத்த நிபுணர்கள். புனையப்பட்ட ஆதாரங்கள் தவறாகத் தெரியவில்லை, ஏனெனில் ஒரு நல்ல மாதிரி உருவாக்கும் போலி ஆதாரங்கள் ஒருபோதும் தவறாகத் தெரிவதில்லை — சரியான ஆசிரியர் பெயர்கள், நம்பத்தகுந்த இதழ்கள், பொருத்தமான தலைப்புகள், பொருந்தக்கூடிய தேதிகள். பலவீனமான ஆதாரத்தைக் கண்டறிய ஒரு பயிற்சி பெற்ற வாசகர் பயன்படுத்தும் அனைத்துக் குறிகளும் அங்கிருந்தன; அவை அனைத்தும் தயாரிக்கப்பட்டவை.

ஒழுங்குமுறை எதிர்வினை உடனடியானதாகவும் நிரந்தரமானதாகவும் இருந்தது. ஓர் சம்பவம் எதிர்கால அனைத்து விநியோகஸ்தர்களுக்கும் ஒப்பந்தக் கடமைகளை உருவாக்கியது. எல்லா இடங்களிலும் இதுவே போக்கு: பொது AI தோல்வியின் செலவு அனைவருக்கும் விதிக்கப்படும் விதியாக மாறுகிறது; அதாவது உங்கள் நிறுவனம் தவறு செய்தாலும் செய்யாவிட்டாலும் இணக்கப் பாரம் உங்களை வந்தடைகிறது.

மனிதனைக் கட்டுப்பாட்டில் வைத்திருக்க உதவும் ஒரே வழிமுறையாக வாசிப்பு அமைவது ஏன்?

இதுவரை விவாதிக்கப்பட்ட பாதுகாப்புகள் அனைத்தும் — கட்டுப்பாடுகள், மீட்டெடுத்தல், சரிபார்ப்பு அடுக்குகள் — இறுதியில் ஒரேயொரு மனிதச் செயலை நம்பியே உள்ளன. தவறை உணரும் திறன் கொண்ட ஒரு மனிதரால் அது வாசிக்கப்பட வேண்டும்.

படம் 8.3: உருவாக்க AI யுகத்தில், மனிதப் பொறுப்பைத் (Human in the loop) தக்கவைப்பது வாசிப்பே ஆகும் — வாசிப்பு என்பது ஒரு செயலற்ற செயல் அல்ல, மாறாக அறிவாற்றலை நிர்வகிக்கும் மனித இடைமுகமாகும் (சமீச அபேசிங்க).

இந்த விடயம் தொடர்பாக வெளியிடப்பட்ட ஓர் இடசர கட்டுரையில் அடிப்படைக் கொள்கை இவ்வாறு குறிப்பிடப்பட்டுள்ளது:

"எந்திரங்களால் நொடிகளில் நூற்றுக்கணக்கான பக்கங்களை எழுத முடியும். எழுத்தின் வேகம் மயக்கமளிக்கக் கூடியது. ஆனால் இந்தத் தானியங்கு படைப்புகளுக்கு முன்னால் நமது அறிவுசார் சரணடைதலைத் தடுக்கும் ஒரே சுவர் ஆழமான, கவனமான மற்றும் பகுத்தறியும் வாசிப்பு (deep, deliberate, and discerning reading) மட்டுமே. நீங்கள் வாசிப்பதை நிறுத்தும் நாளே நீங்கள் எந்திரத்தின் ஊழியராக மாறும் நாளாகும்."

அந்த வாக்கியம் சுட்டிக்காட்டும் சமச்சீரற்ற தன்மையே இந்தத் தொழில்நுட்பத்தின் ஆளும் உண்மையாகும். எழுதுவது நடைமுறையில் இலவசமாகவும் உடனடியானதாகவும் மாறிவிட்டது; ஆனால் சரிபார்ப்பு துளியும் வேகமாகவில்லை. ஒரு நபர் வழக்கம்போல நிமிடத்திற்கு சில நூறு சொற்களை மட்டுமே வாசிக்கிறார். எனவே ஒரு நிறுவனம் சரிபார்க்கக்கூடிய அளவை விட உற்பத்தி செய்யக்கூடிய சரிபார்க்கப்படாத உள்ளடக்கத்தின் அளவு பன்மடங்கு அதிகமாகிறது; அந்த இரண்டு விகிதங்களுக்கும் இடையே உள்ள இடைவெளியிலேயே பிழைகள் பதிவேடுகளுக்குள் நுழைகின்றன.

படம்: உருவாக்க AI யுகத்தில், மனிதனைக் கட்டுப்பாட்டில் வைத்திருப்பது வாசிப்பே — இடசர அகாடமி.

மேலோட்டமாகப் பார்ப்பது (Skimming) வாசிப்பல்ல

தோல்வி முறை வாசிக்க மறுப்பது அல்ல. அது விடாமுயற்சி போல் தோன்றும் வாசிப்பின் ஒரு குறிப்பிட்ட வடிவமாகும்: AI எழுதிய பத்து பக்க அறிக்கையைப் பார்த்து, மொழி நேர்த்தியாக உள்ளது என்பதை உறுதிசெய்து கையொப்பமிடுவது. டெலாய்ட் நிறுவனம் சென்ற பாதை அதுவேயாகும்; மேலும் நேர நெருக்கடியில் இருக்கும் ஒரு திறமையான நபரின் இயல்பான நடத்தையும்கூட.

ஆழமான கவனமான வாசிப்பில் உண்மையில் அடங்குபவை

உண்மையான சரிபார்ப்பை மேலோட்டமான பார்வையிலிருந்து பிரிக்கும் மூன்று சோதனைகள் உள்ளன; அவை ஒவ்வொன்றும் பொதுவான மனப்பான்மையை விட ஒரு குறிப்பிட்ட கேள்வியாகும்:

தர்க்கரீதியான தடம் (A logical trace). அடிப்படைக் கூற்றுகள் A மற்றும் B உண்மையில் C என்ற முடிவை நிறுவுகின்றனவா, அல்லது மாதிரி அவற்றுக்கிடையே பொருந்தாத ஒரு பாலத்தைக் கட்டியுள்ளதா? சரளமான உரை உடைந்த தர்க்கங்களை மிக நேர்த்தியாக மறைக்கிறது, ஏனெனில் இணைப்புச் சொற்கள் — எனவே, இதன் விளைவாக, இதிலிருந்து தொடர்வது — எவ்விதத் தொடர்பும் உள்ளதா இல்லையா என்பதைப் பொருட்படுத்தாமல் அதே நம்பிக்கையுடன் உருவாக்கப்படுகின்றன.

கட்டுப்பாடுகளுக்கு இணங்குதல் (Constraint compliance). உங்கள் தூண்டலில் உள்ள எதிர்மறைக் கட்டுப்பாடுகளுக்கும் சட்ட நிபந்தனைகளுக்கும் மாதிரி முழுமையாகக் கீழ்ப்படிந்துள்ளதா? பகுதி இணக்கம் பொதுவானது மற்றும் எளிதில் தவறவிடக்கூடியது: உங்கள் பத்து நிபந்தனைகளில் ஒன்பது ஏற்கப்பட்டு பத்தாவது அமைதியாகக் கைவிடப்படலாம். நீங்கள் விதித்த கட்டுப்பாடுகளைத் தனித்தனியாகச் சரிபாருங்கள், ஏனெனில் அவை என்னவென்று தெரிந்த ஒரே நபர் நீங்கள்தான்.

பரிவுணர்வுப் பொருத்தம் (Empathetic alignment). அதன் மொழி அதை வாசிக்கப்போகும் நபரின் — சிரமப்படும் பிள்ளையின், கவலையுற்ற பெற்றோரின், ஏற்கனவே இருமுறை முறைப்பாடு செய்த வாடிக்கையாளரின் — சிரமத்தை மதிக்கிறதா? இது எந்த மாதிரியாலும் செய்ய முடியாத ஒரு தீர்ப்பாகும், ஏனெனில் அதைப் பெறுபவர் யார், அந்தச் சொற்கள் அவர்களுக்கு எப்படி உணர்த்தும் என்பதை அறிவது இதற்கு அவசியம். தொழில்நுட்ப ரீதியாகக் குறையற்ற, ஆனால் அனுப்புவதற்கு முற்றிலும் தகுதியற்ற ஓர் ஆவணத்தைக் கண்டறியும் அதிக வாய்ப்பு இச்சோதனைக்கே உண்டு.

AI ஒருசார்புநிலை (Bias) என்றால் என்ன, அதை எவ்வாறு தடுப்பது?

இரண்டாவது அபாயம் முதலாவதிலிருந்து மாறுபட்டுச் செயல்படுவதால் தனித்துக் கவனிக்கப்பட வேண்டும். போலித் தோற்றம் நீங்கள் கண்டறியக்கூடிய ஒரு தவறான பதிலை அளிக்கிறது. ஆனால் ஒருசார்புநிலை என்பது நடுநிலையானதாகத் தோன்றும், நம்பகமான வடிவத்தில் வரும், மற்றும் இருக்கும் சமூகப் பாகுபாட்டைப் பெருமளவில் மீளுருவாக்கம் செய்யும் நிலையான பதிலை அளிக்கிறது — அந்த நிலையான தன்மையே அதைக் காண்பதை மிகவும் கடினமாக்குகிறது.

படம் 8.4: AI பட்சபாதத்தைப் புரிந்துகொள்வதும் தடுத்தலும் — பட்சபாதத்திற்கான 3 காரணங்கள் (வரலாற்றுப் பாகுபாடு, வழிமுறைப் பெருக்குதல், மனித வடிவமைப்புப் பட்சபாதம்) மற்றும் 3 தடுப்பு நடவடிக்கைகள்.

படம்: தரவு விதி (The Data Law) — தரவுப் பன்முகத்தன்மையும் வெளியீட்டு நியாயத்தன்மையும் — இடசர அகாடமி.

AI ஒருசார்புநிலை என்றால் என்ன (What AI bias is)

ஒரு சமூகக் குழு, ஓர் இனம், ஒரு பாலினம் அல்லது ஒரு பிராந்தியத்திற்குப் பாதகமாக இருக்கும் வகையில் சமத்துவமற்ற முடிவுகளை ஒரு மாதிரி முறைமையாக உருவாக்குவது.

படத்தில் உள்ள விளக்கம் பொதுவான செயல்விளக்கமாகும்; அதன் வலிமை ஒப்பீட்டளவில் உள்ளது: ஒரே மாதிரியான தகுதிகளுடன் "சாரா சென்" என்ற பெண் விண்ணப்பதாரர் நிராகரிக்கப்படுகிறார், அதே வேளையில் "டேவிட் ஸ்மித்" என்ற ஆண் விண்ணப்பதாரர் தேர்ந்தெடுக்கப்படுகிறார். பெயரைத் தவிர இரண்டு கோப்புகளுக்கும் இடையே வேறு எதுவும் இல்லை. அமைப்பின் எந்த விதியிலும் பாலினம் பற்றிக் குறிப்பிடப்படவில்லை.

இந்த அபாயத்தை நிறுவன ரீதியாக ஆபத்தானதாக்குவது அதுவேயாகும். ஒருசார்பான மனித முடிவில் வாதிடுவதற்கு ஒரு மனிதர் இருக்கிறார். ஒருசார்பான மாதிரி முடிவில் அனைவருக்கும் ஒரே மாதிரியாகத் தோன்றும், புறநிலையானது போல் தோற்றமளிக்கும் ஓர் எண் மட்டுமே இருக்கும் — அந்தத் தோற்றமே மேல்முறையீடு செய்வதைக் கடினமாக்குகிறது.

இது ஏன் நிகழ்கிறது (Why it happens)

பயிற்சித் தரவில் உள்ள வரலாற்றுப் பாகுபாடு. நேற்றைய பாலின ஊதிய இடைவெளிகளையும் சமூக ஏற்றத்தாழ்வுகளையும் சுமந்துள்ள பதிவுகளில் பயிற்றுவிக்கப்பட்ட ஒரு மாதிரி அந்த வடிவங்களை முறையான விதிகளாகக் கற்றுக்கொள்கிறது. அது நியாயத்தைப் பற்றிச் சிந்திப்பதில்லை; தனக்கு அளிக்கப்பட்ட பதிவில் புள்ளியியல் ரீதியாக இயல்பானதை அது மீளுருவாக்கம் செய்கிறது. பதிவு என்பது வரலாற்றின் விவரிப்பாகும்; வரலாறு சமத்துவமற்றதாக இருந்தது.

வழிமுறைப் பெருக்குதல் (Algorithmic amplification). இது மக்களை ஆச்சரியப்படுத்தும் பகுதியாகும். தரவில் உள்ள ஒரு சிறிய சாய்வு மாறாமல் மாதிரியைக் கடந்து செல்வதில்லை — புள்ளியியல் உகப்பாக்கம் அதைக் கூர்மையாக்குகிறது. வரலாற்று நிகழ்வுகளில் அறுபது சதவீதத்தில் இருக்கும் ஒரு போக்கு மாதிரியின் வெளியீட்டில் ஒரு முழுமையான விதியாக வெளிப்படும், ஏனெனில் பயிற்சி செயல்முறை உறுதியான வடிவங்களைப் பின்பற்றுவதற்கு வெகுமதி அளிக்கிறது. ஒருசார்புநிலை லேசாக நுழைந்து தீவிரமாக வெளிவருகிறது.

வடிவமைப்பில் மனித அறிவாற்றல் சார்பு. இந்த அமைப்புகளை உருவாக்கும் பொறியாளர்கள் தங்கள் சொந்த அனுமானங்களின்படி அம்சங்களைத் தேர்ந்தெடுத்து வெற்றியை வரையறுக்கிறார்கள்; மேலும் வணிக அழுத்தம் வழக்கமாக அளவிட கடினமான நியாயத்திற்கு மேல் அளவிடக்கூடிய இலாபத்தை முன்னிறுத்துகிறது. இது நிகழ்வதற்கு யாரும் தவறான எண்ணத்துடன் செயல்பட வேண்டியதில்லை. சங்கடமான கேள்வியைக் கேட்கக்கூடிய யாரும் குழுவில் இல்லாமல் இருந்தாலே போதுமானது.

படம் 8.5: தரவு விதி — குறுகிய தரவு ஒருசார்பு வெளியீடுகளை உருவாக்குகிறது; பன்முகப்படுத்தப்பட்ட தரவு ஒரு நியாயமான மாதிரியை உருவாக்குகிறது.

இதை எவ்வாறு தடுப்பது (How to prevent it)

தரவை பன்முகப்படுத்துவதும் தணிக்கை செய்வதும். பயன்பாட்டிற்கு முன் உங்கள் நிறுவனத்தின் தரவுத்தொகுப்புகளைத் தணிக்கை செய்யுங்கள்; மேலும் கணினி முடிவெடுக்கும் ஒவ்வொரு சமூகப் பிரிவையும் அவை உண்மையில் பிரதிநிதித்துவப்படுத்துகின்றன என்பதை உறுதிப்படுத்துங்கள். குறுகிய தரவு ஒருசார்பு வெளியீட்டை உருவாக்குவது கணித ரீதியானதே தவிர துரதிர்ஷ்டமல்ல; தொடக்கத்திலேயே மக்களைப் புறக்கணித்த தரவுத்தொகுப்பை முடிவில் எவ்வளவு கவனம் செலுத்தினாலும் சரிசெய்ய முடியாது.

வழிமுறையைத் தவறாமல் தணிக்கை செய்யுங்கள். தொடக்கத்தில் ஒரு முறை சான்றளிப்பதற்குப் பதிலாக நியாயத்தன்மை அளவீடுகளுக்கு எதிராக மாதிரியின் முடிவுகளைத் தொடர்ந்து சோதிக்கவும். உள்ளீடுகள் மாறும்போது நடத்தை மாறுகிறது; கடந்த ஆண்டின் விண்ணப்பதாரர் குழுவில் நியாயமாக இருந்த அமைப்பு இந்த ஆண்டு தானாகவே நியாயமாக இருக்காது.

உள்ளடக்கிய குழுக்களை உருவாக்குங்கள். பல்வேறு சமூகப் பின்னணிகள், துறைகள் மற்றும் உணர்திறன் கொண்ட தொழில்முறை நிபுணர்களிடமிருந்து தொழில்நுட்பக் குழுக்களை உருவாக்குங்கள். இது இந்தப் பட்டியலிலுள்ள குறைந்த தொழில்நுட்பத் தீர்வாகும்; ஆனால் பெரும்பாலும் மிகவும் பயனுள்ளதாக இருக்கும்: ஏனெனில் பெரும்பாலான ஒருசார்புநிலை உற்பத்தி நிலையை அடைவது அது அங்கீகரிக்கப்பட்டதால் அல்ல, மாறாக அங்கிருந்த யாரும் அதை அடையாளம் காணாததால்தான். பொதுவாகப் பிரச்சினையைக் கண்டறிபவர் அதனால் பாதிக்கப்பட்ட நபராகவே இருப்பார்.

போலித் தோற்றங்கள் (Hallucinations) ஏன் ஏற்படுகின்றன, அவற்றைத் தடுப்பது எது?

போலித் தோற்றம் என்பது ஒரே காரணத்தைக் கொண்ட ஒரு தோல்வி அல்ல. அதற்கு மூன்று தனித்தனி மூலங்கள் உள்ளன; ஒவ்வொன்றிற்கும் தீர்வு வேறுபடுகிறது — தவறான தீர்வைப் பயன்படுத்துவது பிரச்சினையை அப்படியே விட்டுவிடும் என்பதால் இது முக்கியமானது.

படம் 8.6: AI போலித் தோற்றங்களைப் புரிந்துகொள்வதும் தடுத்தலும் — புனையப்பட்ட தகவல்களுக்கான 3 காரணங்கள் (குப்பை உள்ளீடு, குப்பை வெளியீடு / மாதிரியின் வரம்புகள் / குழப்பமான தூண்டல்கள்) மற்றும் அவற்றின் 3 தீர்வுகள்.

அட்டவணையை முழுமையாகப் படிப்பது பயனுள்ள முடிவைத் தருகிறது. முதல் வரிசை தரவு பிரச்சினை; மாதிரியின் நினைவகத்தை நம்புவதற்குப் பதிலாக அதிகாரப்பூர்வ ஆவணத்தை வழங்குவதன் மூலம் இது தீர்க்கப்படுகிறது. மூன்றாவது ஒரு தூண்டல் பிரச்சினை; என்டரை அழுத்துவதற்கு முன் உங்களிடமிருந்தே எந்தச் செலவுமின்றித் தீர்க்கப்படுகிறது. இரண்டாவது மட்டுமே தொழில்நுட்பத்தின் உண்மையான வரம்பாகும் — அதற்கான தீர்வு தொழில்நுட்ப ரீதியானது அல்ல. அது வெளியீட்டை மூலத்துடன் ஒப்பிடும் ஒரு மனிதர் மட்டுமே.

இரண்டாவது வரிசை விவரிப்பதையும் கவனியுங்கள், ஏனெனில் இது தொழில்முறைப் பயன்பாட்டில் மிகவும் ஏமாற்றும் தோல்வி முறையாகும்: புனையப்பட்ட வழக்கு எண்களுடன் உண்மையான நீதிபதிகளின் பெயர்கள் இணைக்கப்படுவது. வெளிப்படையாகக் கண்டுபிடிக்கக்கூடிய பொய் அல்ல, மாறாக ஒரே மேற்கோளில் உண்மை மற்றும் பொய் கூறுகளின் கலவை. நீதிபதியின் பெயரை அடையாளம் காணும் மதிப்பாய்வாளர் பரிச்சயத்தின் ஆறுதலை உணர்ந்து சரிபார்ப்பதை நிறுத்துகிறார். சரிபார்ப்பு வழக்கு எண்ணையும் சென்றடைய வேண்டும்.

ஒரு சரிபார்ப்புப் பணிப்பாய்வு (Verification Workflow) நடைமுறையில் எவ்வாறு அமைகிறது?

மேலே உள்ள கொள்கைகள் மீண்டும் மீண்டும் செய்யக்கூடிய ஒரு வரிசையாக மட்டுமே செயல்பட முடியும். உற்பத்தித் தர வேலைகளில் நிலைத்து நிற்கும் பின்வரும் நான்கு அடுக்கு முறைமை உள்ளது; இதில் ஒவ்வொரு அடுக்கும் அடுத்த அடுக்கு செய்ய முடியாத ஒன்றைச் செய்கிறது.

படம்: மூன்று அடுக்கு சரிபார்ப்பு முறைமை (The 3-Tier Verification Pipeline) — இடசர அகாடமி.

அடுக்கு ஒன்று — நேரலை ஆதாரங்களுக்கு எதிராக உண்மைகளை நிறுவுதல். Google Search AI Mode போன்ற மேற்கோள்களுடன் தற்போதைய தகவல்களைப் பெறும் ஒரு தேடல் கருவியுடன் தொடங்கி சரிபார்க்கப்பட்ட நிலையைச் சேகரிக்கவும்: தற்போதைய பாடத்திட்டம், அதிகாரப்பூர்வ அறிவிப்பு, வெளியிடப்பட்ட தரவு, மற்றும் அவை ஒவ்வொன்றிற்கும் திறக்கக்கூடிய ஓர் இணைப்பு. உண்மைகள் இந்த நிலையிலும் இந்த நிலையில் மட்டுமே செயல்முறைக்குள் நுழைகின்றன. பைப்லைனில் பின்னர் எதுவும் புதிய உண்மையை அறிமுகப்படுத்த அனுமதிக்கப்படுவதில்லை.

அடுக்கு இரண்டு — சூழலை உருவாக்கி அறிவுறுத்தலை வடிவமைத்தல். அந்தச் சரிபார்க்கப்பட்ட சுருக்கத்தை Gemini போன்ற வலுவான உள்ளூர் மொழித் திறன் கொண்ட ஒரு மாதிரிக்கு எடுத்துச் சென்று, இலங்கைச் சூழல் மற்றும் தமிழ்/சிங்கள மொழித் துல்லியத்துடன் அதை விரிவுபடுத்துங்கள். பின்னர் இறுதி ஆவணத்தை எழுதுவதற்குப் பதிலாக அடுத்த கருவியை எழுத அந்த மாதிரியைப் பயன்படுத்துங்கள்: "இந்தச் சரிபார்க்கப்பட்ட உண்மைகளின் அடிப்படையில், இந்த ஆவணத்தை வரைவதற்கு Claude மாதிரிக்கு வழங்க வேண்டிய — எதிர்மறைக் கட்டுப்பாடுகளுடன் கூடிய — உகந்த தூண்டலை எழுதுங்கள்." ஒரு மாதிரி மற்றொரு மாதிரிக்குத் தூண்டலை வடிவமைக்க வைப்பது மறைமுகமாகத் தோன்றினாலும் நடைமுறையானது. தூண்டல் உருவாக்கம் என்பது மாதிரிகள் சிறப்பாகச் செய்யும் ஒரு பணியாகும்; இது கட்டுப்பாடுகளை ஊகிப்பதற்குப் பதிலாக வெளிப்படையாகக் குறிப்பிட வைக்கிறது.

அடுக்கு மூன்று — வடிவமைக்கப்பட்ட தூண்டலுடன் வரைவு செய்தல். இறுதிப் பகுப்பாய்வு மற்றும் கட்டமைக்கப்பட்ட வரைவுக்காக ஆழமான தர்க்கரீதியான அமைப்புக்கு ஏற்ற Claude போன்ற மாதிரிக்கு அந்தத் தூண்டலைக் கொண்டு செல்லுங்கள். இந்த நேரத்தில் மாதிரி ஏற்கனவே சரிபார்க்கப்பட்ட உண்மைகள் மற்றும் ஏற்கனவே குறிப்பிடப்பட்ட கட்டுப்பாடுகளின் அடிப்படையில் இயங்குகிறது; இது புனைவுக்கான பெரும்பாலான வாய்ப்புகளை நீக்குகிறது.

அடுக்கு நான்கு — மனிதக் கட்டுப்பாடும் கையொப்பமும். இறுதியாக ஆவணத்தை வரி வரியாகப் படித்து, முதல் அடுக்கின் ஆதாரங்களுக்கு எதிராக அதன் துல்லியத்தை உறுதிசெய்து கையொப்பமிடுங்கள்.

இந்த முறைமை பற்றி இரண்டு விடயங்களைக் கவனிக்க வேண்டும். முதலாவதாக, இது வெவ்வேறு மாதிரிகளைத் திட்டமிட்டுப் பயன்படுத்துகிறது — தனது சொந்த வேலையைச் சரிபார்க்கும் ஒரு மாதிரி தனது சொந்தக் குருட்டுப் புள்ளிகளைப் பகிர்ந்துகொள்கிறது; வெவ்வேறு பயிற்சித் தரவுகளைக் கொண்ட இரண்டாவது அமைப்பு அவ்வாறு செய்யாது. இரண்டாவதாக, மிக முக்கியமாக, கடைசி அடுக்கு ஒரு தொழில்நுட்ப செயல்முறையுடன் இணைக்கப்பட்ட வெறும் சம்பிரதாயம் அல்ல. பொறுப்புக்கூறலைச் சுமக்கும் ஒரே அடுக்கு இதுவே; அதற்கு முந்தைய மூன்று அடுக்குகள் முடிவில் வாசிப்பதை முடிந்தவரை நம்பகமானதாக மாற்றவே உள்ளன. சரியாகப் பயன்படுத்தப்படும் போது இந்த அடுக்கு முறை போலித் தோற்றங்கள் நழுவுவதை முழுமையாகத் தடுக்கிறது — ஆனால் அதன் செயல்திறன் நான்காவது அடுக்கில்தான் வாழ்கிறது.

நிழல் AI (Shadow AI) என்றால் என்ன, AI-ஐத் தடை செய்வது ஏன் அதை மோசமாக்குகிறது?

ஒரு யதார்த்தத்தை நேர்மையாக எதிர்கொள்ள வேண்டும்; ஏனெனில் நிறுவனக் கொள்கைகள் பெரும்பாலும் அது உண்மையல்ல என்பது போல எழுதப்படுகின்றன: எல்லா வகையான நிறுவனங்களிலும் உள்ள ஆசிரியர்கள், மாணவர்கள், கணக்காளர்கள், அலுவலர்கள் மற்றும் ஊழியர்கள் ஏற்கனவே தங்கள் பணிகளைத் தங்கள் தனிப்பட்ட தொலைபேசிகளில் உள்ள இலவச AI கருவிகளில் உள்ளிட்டு வருகின்றனர்.

இது தவறான எண்ணத்துடன் செய்யப்படுவதில்லை. வேலைச் சுமை தாங்க முடியாததாக உள்ளது; கருவி உண்மையில் உதவுகிறது. இரவு பதினொரு மணிக்கு அறுபது விடைத்தாள்களுக்குப் புள்ளியிடும் ஆசிரியரோ, நாளை சமர்ப்பிக்க வேண்டிய பத்துப் பயிற்சிகளைக் கொண்ட மாணவரோ பொறுப்பற்றவர் அல்ல; தங்களுக்குக் கிடைக்கும் ஒரே வழியில் அவர்கள் திறமையாகச் செயல்பட முயற்சிக்கிறார்கள்.

தடை செய்வது அதை நிறுத்தாது. உண்மையான உற்பத்தித்திறன் நன்மையை வழங்கிய ஒவ்வொரு தொழில்நுட்பத்திலும் இதுவே நிரூபிக்கப்பட்டுள்ளது. ஒரு நிறுவனம் AI-ஐத் தடை செய்யும் போது பயன்பாடு நின்றுவிடாது — அது பார்வைக்குத் தெரியாத இடத்திற்கு நகர்கிறது. தடையானது நடைமுறையை அல்லாமல், வழிகாட்டுதல், பயிற்சி அல்லது பாதுகாப்புகளை வழங்குவதற்கான நிறுவனத்தின் பார்வையை நீக்குகிறது. இதன் விளைவாக மிக மோசமான சூழல் ஏற்படுகிறது: எந்த விதிகளும் இன்றி, பதிவுகளும் இன்றி, என்ன தரவு கசிந்துள்ளது என்று எவராலும் கூற முடியாத நிலையில் அதே தரவு நிறுவனத்தை விட்டு வெளியேறுகிறது.

அதற்குப் பதிலாக அங்கீகரிக்கப்பட்ட வழியை வழங்குங்கள். பாதுகாப்பான ஒரு கருவியை அங்கீகரியுங்கள் — பூச்சியத் தரவுத் தக்கவைப்புடன் (Zero Data Retention) கூடிய நிறுவனப் பதிப்பு — மேலும் என்ன தரவை உள்ளிடலாம் மற்றும் உள்ளிடக்கூடாது என்ற தெளிவான, குறிப்பிட்ட பட்டியலை வெளியிடுங்கள். கடுமையை விடக் குறிப்பான தன்மை இங்கு முக்கியமானது. "முக்கியமான தரவைக் கவனமாகக் கையாளுங்கள்" என்பது யாரும் பின்பற்றக்கூடிய விதி அல்ல; "ஒரு பிள்ளையின் முழுப் பெயரையோ, புள்ளிப் பட்டியலையோ, அடையாள எண்ணையோ அல்லது மருத்துவ விபரத்தையோ ஒருபோதும் உள்ளிடாதீர்கள்" என்பது ஒரு தெளிவான விதி.

வெளிப்படைத்தன்மையைப் பாதுகாப்பானதாக்குங்கள். "நான் இந்த முதல் வரைவை AI உதவியுடன் தயாரித்தேன்; பின்னர் நான் அதை மதிப்பாய்வு செய்து திருத்தினேன்" என்று வெளிப்படையாகக் கூறும் ஓர் ஊழியர் அதற்காக ஒருபோதும் தண்டிக்கப்படக்கூடாது. வெளிப்படுத்தலைத் தண்டிப்பது AI பயன்பாட்டைக் குறைக்காது; அது வெளிப்படுத்துவதைக் குறைக்கிறது, மேலும் நிறுவனத்திற்குச் சரிபார்ப்பு எங்கு தேவை என்பதை அறிந்துகொள்வதற்கான ஒரே வழிமுறையே வெளிப்படுத்தலாகும்.

உண்மையான அபாயம் சுருக்கமாக. மக்கள் AI-ஐப் பயன்படுத்துவது அபாயம் அல்ல. எந்த மேற்பார்வையும், விதிகளும், மனிதச் சரிபார்ப்பும் இல்லாமல் தரவு இரகசியமாக வெளியேறுவதும் — அதைச் செய்பவர்களுக்கு உதவி கேட்க வழியில்லாமல் இருப்பதும் ஆகும்.

இறுதித் தொகுதியில், இந்த அபாயங்களைக் கடந்து அடுத்த தசாப்தத்தை நோக்கிய பாதையை வரைவோம் — உரையாடல் பொறி யுகத்திலிருந்து தன்னாட்சி AI முகவர்கள் (AI Agents) வரையிலான பரிணாமம், அவுகன தரநிலை, ஜப்பானின் மூன்று முகங்கள் மற்றும் களுத்துறைத் தாய் ஒருவரின் நெஞ்சை உருக்கும் கண்டுபிடிப்பு, மற்றும் AI தேர்ச்சிக்கான 5 உலகளாவிய பொன்விதிகள்.