08. உருவாக்க AI-இன் அபாயங்கள், ஒருசார்புநிலை மற்றும் பொறுப்புமிக்க பயன்பாடு

வெளியிடப்பட்டது 2026-09-14

இந்த அத்தியாயம் CM-06: உருவாக்க AI-இன் அபாயங்கள், இணையப் பாதுகாப்பு மற்றும் பொறுப்புமிக்க பயன்பாடு (Governance & Ethics) இன் அரச அலுவலர்களுக்கான பதிப்பு. பொதுவான விளக்கம் அங்கே உள்ளது; அரச அலுவலகத்தில் பணியாற்றும்போது மாறுபடுவதை மட்டுமே இந்தப் பக்கம் வைத்திருக்கிறது.

உருவாக்க AI-இன் ஏழு முக்கிய அபாயங்கள் யாவை?

இந்த அத்தியாயத்தில் உள்ள அனைத்தும் 03 ஆம் அத்தியாயத்தில் நிறுவப்பட்ட ஒரு தொழில்நுட்ப உண்மையிலிருந்தே தொடங்குகின்றன; அபாயங்களைப் பட்டியலிடுவதற்கு முன் அதை நினைவுகூர்வது அவசியம். ஒரு பெரு மொழி மாதிரி (LLM) என்பது ஒரு தகவல்களஞ்சியமோ அல்லது தரவுத்தளமோ அல்ல. அது புள்ளியியல் நிகழ்தகவின் அடிப்படையில் (P(w_t | w_<t)) அடுத்து வரக்கூடிய மிகவும் சாத்தியமான சொல்லைக் கணிக்கும் ஓர் இயந்திரம் மட்டுமே.

இதிலிருந்து ஏழு அபாயப் பரிமாணங்கள் உருவாகின்றன; அவை ஒவ்வொன்றும் ஓர் அரசு அலுவலரின் மேசைக்கு வருகின்றன. பொதுச் சேவையில் இதன் விளைவுகள் ஓர் இயந்திரத்தை எதிர்த்து மேல்முறையீடு செய்ய முடியாத சாமானிய குடிமக்கள் மீதே விழுவதால், அவை ஒவ்வொன்றும் தொழில்நுட்பத் தன்மையோடும் பொதுத்துறைத் தாக்கத்தோடும் கீழே விளக்கப்பட்டுள்ளன.

படம் 8.1: உருவாக்க AI-இன் அபாயங்கள் (Risks of Generative AI) — போலித் தோற்றம் (Hallucination), ஒருசார்புநிலை (Bias), தனியுரிமை (Privacy), சட்டப் பொறுப்பு (Legal), தவறான பயன்பாடு (Misuse), மிதமிஞ்சிய சார்பு (Over-reliance) மற்றும் டோக்கன் செலவு (Token Cost).

அபாயம் ஒன்று: போலித் தோற்றம் / புனைவு (Risk one: hallucination)

நடைமுறையில் ஏற்படும் இழப்பு. நிஜ உலகில் இல்லாத நிர்வாகச் சுற்றறிக்கை எண்கள். கற்பனையான உயர் நீதிமன்றத் தீர்ப்புகள். சரியான வடிவத்திலும் உத்தியோகபூர்வ நடையிலும் ஆவணங்களுக்குள் நுழையும் புனையப்பட்ட மக்கள்தொகை புள்ளிவிவரங்கள். ஓர் அமைச்சின் செயலாளரோ அல்லது பிரதேச செயலாளரோ அத்தகைய ஆவணத்தில் கையொப்பமிட்ட கணத்தில், ஓர் கற்பனைக்கு அதிகாரப்பூர்வ ஆவணத்தின் வலிமை கிடைத்துவிடுகிறது — மேலும் அந்தப் பிழையின் பொறுப்பு ஓர் இயந்திரத்திற்குப் பதிலாக குறிப்பிட்ட மனிதருக்குச் சென்று சேர்கிறது.

அபாயம் இரண்டு: ஒருசார்புநிலையும் சமத்துவமின்மையும் (Risk two: bias and inequity)

நடைமுறையில் ஏற்படும் இழப்பு. இலங்கையின் தேசிய நலன்புரித் திட்டங்களான அஸ்வெசும அல்லது சமுர்த்தி ஆகியவற்றின் கீழ் உதவிகளைத் தீர்மானிப்பதிலோ, அல்லது பொதுச் சேவை ஆட்சேர்ப்புப் பட்டியல்களைத் தயாரிப்பதிலோ விளிம்புநிலைச் சமூகங்கள், பெண் தலைமைத்துவக் குடும்பங்கள் மற்றும் தொலைதூர மாகாணங்களைச் சேர்ந்த மக்கள் தானாகவும் கண்ணுக்குத் தெரியாமலும் பாதிக்கப்படலாம். அமைப்பில் சுட்டிக்காட்டக்கூடிய பாகுபாட்டுக் கட்டளை எதுவும் இருக்காது; இது மனிதப் பாகுபாட்டை விட இதை எதிர்ப்பதை மிகவும் கடினமாக்குகிறது.

இதனால்தான் ஐரோப்பிய ஒன்றியத்தின் AI சட்டம் (EU AI Act - Regulation 2024/1689) பொது நலன்புரி மற்றும் பொதுச் சேவை முடிவுகளை "உயர் அபாய AI" (High-Risk AI) என்று வகைப்படுத்துகிறது — இது ஊக்குவிப்புகளுக்குப் பதிலாகக் கடமைகளை விதிக்கும் ஒரு வகையாகும். சர்வதேச சட்டத்தின் போக்கு தெளிவாக உள்ளது: குடிமகனுக்கான முடிவின் தாக்கம் அதிகரிக்க அதிகரிக்க, அதைத் தானியங்குபடுத்துபவர் மீதான நியாயத்தன்மையை நிரூபிக்கும் பொறுப்பும் அதிகரிக்கிறது.

அபாயம் மூன்று: இரகசியத்தன்மையும் தனியுரிமைக் கசிவும் (Risk three: confidentiality and privacy leakage)

நடைமுறையில் ஏற்படும் இழப்பு. குடிமக்களின் தேசிய அடையாள அட்டை எண்கள், காணி உறுதிப்பத்திர விபரங்கள், மருத்துவப் பதிவுகள், இரகசிய அமைச்சரவைக் குறிப்புகள் — தங்கள் வேலையை முடிக்க முயலும் நல்லெண்ணம் கொண்ட அலுவலர்களால் திறந்த அமைப்புகளில் உள்ளிடப்படுகின்றன. இலங்கையின் 2022 ஆம் ஆண்டின் 9 ஆம் இலக்க தனிப்பட்ட தரவுப் பாதுகாப்புச் சட்டத்தின் (PDPA) கீழ், தரவுக் கட்டுப்பாட்டாளராகக் குடிமக்கள் தரவைப் பாதுகாப்பது அரசின் முழுமையான சட்டக் கடமையாகும்; மேலும் அந்தத் தகவல் கசிவு வசதிக்காகவோ அல்லது அறியாமலோ நிகழ்ந்தது என்பதற்காக அந்தக் கடமை தளர்ந்துவிடாது.

இந்த அபாயத்திற்கு எந்தப் பின்னூட்ட சுழற்சியும் இல்லை என்பதே நடைமுறைச் சிக்கலாகும். தவறான சாளரத்தில் ரகசியத் தரவை ஒட்டும்போது வெளிப்படையாக எதுவும் நடப்பதில்லை. அலுவலரின் வேலை எளிதாகிறது, எந்த எச்சரிக்கையும் தோன்றுவதில்லை, பழக்கம் உருவாகிறது — 07 ஆம் அத்தியாயத்தில் விவரிக்கப்பட்டுள்ளபடி, இது தனிப்பட்ட முடிவுக்கு விடப்படாமல் ஒரு நிறுவன விதியாக அறிவிக்கப்பட வேண்டியதன் காரணம் இதுவே.

அபாயம் நான்கு: சட்ட மற்றும் ஒழுங்குமுறைப் பொறுப்பு (Risk four: legal and regulatory liability)

நடைமுறையில் ஏற்படும் இழப்பு. டெண்டர் ஆவணங்கள், கொள்கைப் பத்திரங்கள் அல்லது பாடத்திட்டங்களுக்குள் அறிவுசார் சொத்துரிமை மீறல்கள் ஏற்படுதல். மேலும் நிர்வாகிகள் கவனிக்க வேண்டிய மற்றொரு நுட்பமான விடயம் உள்ளது: நிர்வாகச் சட்டத்தின் கீழ், ஓர் அரசுத் தீர்மானம் ஒரு குறிப்பிட்ட மனிதப் பகுத்தறிவை அடிப்படையாகக் கொண்டிருக்க வேண்டும். "அமைப்பு இதை உருவாக்கியது" என்பதைத் தாண்டி விளக்க முடியாத ஒரு முடிவு, அதன் முடிவு எவ்வளவு பயனுள்ளதாக இருந்தாலும் நீதிமன்றத்தின் முன் சட்டவிரோதமானதாக மாறக்கூடும். பகுத்தறிவு என்பது முடிவின் மீதான அலங்காரம் அல்ல. முடிவைச் செல்லுபடியாக்கும் பகுதியே அதுதான்.

அபாயம் ஐந்து: தவறான பயன்பாடும் போலிப் பிம்பங்களும் (Risk five: misuse and deepfakes)

நடைமுறையில் ஏற்படும் இழப்பு. நிதி விடுவிப்புக்கு உத்தரவிட மாவட்டச் செயலாளர் அல்லது அமைச்சின் செயலாளரின் குரலைப் போலியாகப் பயன்படுத்தி தொலைபேசி அழைப்புகளைச் செய்தல். அதிகாரப்பூர்வ ஆவணங்களை நிமிடங்களில் போலியாக உருவாக்குதல். மேலும் தொழில்நுட்ப ரீதியாக, குற்றவாளிகள் MOSIP போன்ற அடையாளக் கட்டமைப்புகளிலோ அல்லது தானியங்கு ஆய்வுகளைத் தாங்க முடியாத பழைய அரசு வலைதளங்களிலோ உள்ள மென்பொருள் பலவீனங்களைத் தானாகக் கண்டறிந்து சுரண்டுவதற்கு AI-ஐப் பயன்படுத்துதல்.

இங்கு மாறியிருப்பது மோசடியின் இருப்பு அல்ல, மாறாக அதன் பொருளியல் மட்டுமே. ஒரு மூத்த அதிகாரியைப் போல ஆள்மாறாட்டம் செய்வதற்குப் புலமை, தயாரிப்பு மற்றும் தைரியம் தேவைப்பட்டது. இப்போது அதற்கு ஒரு குரல் மாதிரியும் சந்தாவும் போதுமானது; அதாவது தாக்குதலின் கடினத்தன்மையை நம்பியிருந்த பாதுகாப்பு முறைகள் இனி செல்லுபடியாகாது. தொலைபேசியில் கேட்கும் குரல் அடையாளத்திற்கான சான்று என்று கருதும் நடைமுறைகள் இப்போதே காலாவதியாகிவிட்டன.

அபாயம் ஆறு: மிதமிஞ்சிய நம்பிக்கையும் திறன் இழப்பும் (Risk six: over-reliance and deskilling)

நடைமுறையில் ஏற்படும் இழப்பு. பாக்கெட் கால்குலேட்டர் வந்த பிறகு மனக்கணக்கு போடும் திறன் என்னவானதோ அதுவே இதற்கும் முன்னுதாரணம். அரசு அலுவலர் சிக்கலான சட்டங்களையும் சுற்றறிக்கைகளையும் வாசிப்பதை நிறுத்திவிட்டு முழுமையாக AI சுருக்கங்களைச் சார்ந்திருக்கத் தொடங்குகிறார்; சுருக்கங்கள் வழக்கமாகச் சரியாக இருப்பதால் அந்தப் பழக்கம் வலுப்பெறுகிறது; ஒன்றில் தவறு இருக்கும் போது அதைக் கவனிக்கும் திறன் அமைதியாக மறைந்துவிடுகிறது. காலப்போக்கில், எந்தவொரு தனிநபரும் அவ்வாறு முடிவெடுக்காமலேயே முழு சேவையின் அறிவுசார் மட்டமும் வீழ்ச்சியடையக்கூடும்.

இந்தப் பட்டியலிலுள்ள மிக மெதுவான மற்றும் மிகவும் கடுமையான அபாயம் இதுவே; ஏனெனில் மற்ற ஆறு அபாயங்களிலிருந்தும் பாதுகாக்கும் திறமையையே இது அழித்துவிடுகிறது. சுற்றறிக்கைகளை வாசிப்பதை நிறுத்திய ஓர் அலுவலரால் புனையப்பட்ட சுற்றறிக்கை எண்ணைக் கண்டுபிடிக்க முடியாது. முதல் அபாயமும் ஆறாவது அபாயமும் ஒன்றோடொன்று இணைக்கப்பட்டுள்ளன; அந்தத் தொடர்பு ஒரே திசையில்தான் பயணிக்கிறது.

அபாயம் ஏழு: செலவும் டோக்கன் பொருளியலும் (Risk seven: cost and token economics)

நடைமுறையில் ஏற்படும் இழப்பு. சரியான கட்டமைப்புத் திட்டமும் வரவுசெலவுத் திட்டக் கட்டுப்பாடும் இல்லாவிட்டால், ஓர் அரசு நிறுவனம் தன்னால் தாங்க முடியாத மாதாந்திர செயல்பாட்டுச் செலவுகளை உருவாக்குகிறது. சில ஆயிரம் ரூபாய்களில் தொடங்கும் ஒரு முன்னோடித் திட்டம் பல லட்சம் ரூபாய் செலவாகும் சேவையாக மாறுகிறது; மேலும் சேவை பயன்பாட்டுக்கு வந்து அதைத் திரும்பப் பெறுவது அரசியல் ரீதியாகக் கடினமாகும் வரை செலவு வெளிப்படுவதில்லை.

அலங்காரமற்ற உண்மை என்னவென்றால்: கேள்வி AI-ஆல் வேலையைச் செய்ய முடியுமா என்பது அல்ல; முழு அளவில் இயங்கும் போது ஒரு பரிவர்த்தனைக்கு என்ன செலவாகும் என்பதே ஆகும். அந்த எண் ஆரம்ப வடிவமைப்பிலேயே இருக்க வேண்டும், முதல் பில்லில் அல்ல.

டெலாய்ட் (Deloitte) நிறுவனத்தின் $440,000 அறிக்கை ஏற்படுத்திய உண்மையான இழப்பு என்ன?

படம் 8.2: டெலாய்ட் நிறுவனத்தின் AI பின்னடைவு விளக்கப்பட்டது — $440,000 மதிப்பிலான அறிக்கை எவ்வாறு பின்னடைவைச் சந்தித்தது (ஆஸ்திரேலிய கூட்டாட்சி அரசாங்கத்திற்குச் சமர்ப்பிக்கப்பட்ட அதிகாரப்பூர்வ அறிக்கையின் நிலை).

வெறும் குறிப்பாகக் கடந்து செல்லாமல் இந்த வழக்கை ஏன் படிக்க வேண்டும் (Why this case is worth studying rather than merely noting)

தோல்வி மதிப்பாய்வில்தான் இருந்ததே தவிர கருவியில் அல்ல. 03 ஆம் அத்தியாயம் விவரித்ததையே மாதிரி செய்தது: அது நம்பத்தகுந்த மேற்கோள்களை உருவாக்கியது, ஏனெனில் ஓர் ஆய்வுக் கட்டுரையின் கருத்தைத் தொடர்ந்து புள்ளியியல் ரீதியாக நம்பத்தகுந்த மேற்கோளே வரும். மேற்கோள் காட்டப்பட்ட கட்டுரை உள்ளதா என்று சரிபார்ப்பது எந்த நிபுணத்துவமும் தேவையில்லாத இரண்டு நிமிட வேலையாகும். ஆனால் அதை யாரும் செய்யவில்லை.

மனிதனைக் கட்டுப்பாட்டில் வைத்திருக்க உதவும் ஒரே வழிமுறையாக வாசிப்பு அமைவது ஏன்?

படம் 8.3: உருவாக்க AI யுகத்தில், மனிதப் பொறுப்பைத் (Human in the loop) தக்கவைப்பது வாசிப்பே ஆகும் — வாசிப்பு என்பது ஒரு செயலற்ற செயல் அல்ல, மாறாக அறிவாற்றலை நிர்வகிக்கும் மனித இடைமுகமாகும் (சமீச அபேசிங்க).

ஆழமான கவனமான வாசிப்பில் உண்மையில் அடங்குபவை

பரிவுணர்வுப் பொருத்தம் (Empathetic alignment). ஆவணத்தின் மொழி குடிமகனின் உண்மையான வேதனையோடும், நிர்வாக விவேகத்துடன் மதிப்பிடப்படும் பொதுச் சேவையின் கண்ணியத்தோடும் ஒத்துப்போகிறதா? இது எந்த மாதிரியாலும் செய்ய முடியாத ஒரு தீர்ப்பாகும், ஏனெனில் ஆவணத்தை யார் வாசிப்பார்கள், அதைப் பெறும்போது எப்படி உணர்வார்கள் என்பதை அறிவது இதற்கு அவசியம். தொழில்நுட்ப ரீதியாகக் குறையற்ற, ஆனால் அனுப்புவதற்கு முற்றிலும் தகுதியற்ற ஓர் ஆவணத்தைக் கண்டறியும் அதிக வாய்ப்பு இச்சோதனைக்கே உண்டு.

போலித் தோற்றங்கள் (Hallucinations) ஏன் ஏற்படுகின்றன, அவற்றைத் தடுப்பது எது?

படம் 8.6: AI போலித் தோற்றங்களைப் புரிந்துகொள்வதும் தடுத்தலும் — புனையப்பட்ட தகவல்களுக்கான 3 காரணங்கள் (குப்பை உள்ளீடு, குப்பை வெளியீடு / மாதிரியின் வரம்புகள் / குழப்பமான தூண்டல்கள்) மற்றும் அவற்றின் 3 தீர்வுகள்.

ஒரு சரிபார்ப்புப் பணிப்பாய்வு (Verification Workflow) நடைமுறையில் எவ்வாறு அமைகிறது?

படம் 8.7: Three-Tier Human-in-the-Loop Verification Pipeline — பல மாதிரி ஒருங்கிணைப்பு, கட்டுப்பாடுகள் அமலாக்கம் மற்றும் நிர்வாகப் பொறுப்புக்கூறல்.

அடுக்கு ஒன்று — நேரலை ஆதாரங்களுக்கு எதிராக உண்மைகளை நிறுவுதல். Google Search AI Mode போன்ற மேற்கோள்களுடன் தற்போதைய தகவல்களைப் பெறும் ஒரு தேடல் கருவியுடன் தொடங்கி சரிபார்க்கப்பட்ட நிலையைச் சேகரிக்கவும்: சமீபத்திய வர்த்தமானிகள், அதிகாரப்பூர்வ வலைத் தரவுகள் மற்றும் திறக்கக்கூடிய இணைப்புகள். உண்மைகள் இந்த நிலையிலும் இந்த நிலையில் மட்டுமே செயல்முறைக்குள் நுழைகின்றன. பைப்லைனில் பின்னர் எதுவும் புதிய உண்மையை அறிமுகப்படுத்த அனுமதிக்கப்படுவதில்லை.

அடுக்கு இரண்டு — சூழலை உருவாக்கி அறிவுறுத்தலை வடிவமைத்தல். அந்தச் சரிபார்க்கப்பட்ட சுருக்கத்தை Gemini போன்ற வலுவான உள்ளூர் மொழித் திறன் கொண்ட ஒரு மாதிரிக்கு எடுத்துச் சென்று, இலங்கைச் சூழல் மற்றும் தமிழ்/சிங்கள மொழித் துல்லியத்துடன் அதை விரிவுபடுத்துங்கள். பின்னர் இறுதி ஆவணத்தை எழுதுவதற்குப் பதிலாக அடுத்த கருவியை எழுத அந்த மாதிரியைப் பயன்படுத்துங்கள்: "இந்தச் சரிபார்க்கப்பட்ட உண்மைகளின் அடிப்படையில், இந்தச் சட்ட ஆவணத்தை வரைவதற்கு Claude மாதிரிக்கு வழங்க வேண்டிய — எதிர்மறைக் கட்டுப்பாடுகளுடன் கூடிய — உகந்த தூண்டலை எழுதுங்கள்." ஒரு மாதிரி மற்றொரு மாதிரிக்குத் தூண்டலை வடிவமைக்க வைப்பது மறைமுகமாகத் தோன்றினாலும் நடைமுறையானது. தூண்டல் உருவாக்கம் என்பது மாதிரிகள் சிறப்பாகச் செய்யும் ஒரு பணியாகும்; இது கட்டுப்பாடுகளை ஊகிப்பதற்குப் பதிலாக வெளிப்படையாகக் குறிப்பிட வைக்கிறது.

நிழல் AI (Shadow AI) என்றால் என்ன, AI-ஐத் தடை செய்வது ஏன் அதை மோசமாக்குகிறது?

ஒரு யதார்த்தத்தை நேர்மையாக எதிர்கொள்ள வேண்டும்; ஏனெனில் நிறுவனக் கொள்கைகள் பெரும்பாலும் அது உண்மையல்ல என்பது போல எழுதப்படுகின்றன: அரசு அலுவலர்கள் ஏற்கனவே அதிகாரப்பூர்வக் கோப்புகளைத் தங்கள் தனிப்பட்ட தொலைபேசிகளில் உள்ள இலவச ChatGPT-க்கு அனுப்பி வருகின்றனர்.

இது தவறான எண்ணத்துடன் செய்யப்படுவதில்லை. கோப்புச் சுமை தாங்க முடியாததாக உள்ளது; கருவி உண்மையில் உதவுகிறது. நிலுவையில் உள்ள அறுபது கோப்புகளுடனும் தங்கள் தொலைபேசியில் ஒரு இலவசக் கருவியுடனும் இரவில் வேலை செய்யும் அலுவலர் பொறுப்பற்றவர் அல்ல; தங்களுக்குக் கிடைக்கும் ஒரே வழியில் அவர்கள் திறமையாகச் செயல்பட முயற்சிக்கிறார்கள்.

அதற்குப் பதிலாக அங்கீகரிக்கப்பட்ட வழியை வழங்குங்கள். பாதுகாப்பான ஒரு கருவியை அங்கீகரியுங்கள் — பூச்சியத் தரவுத் தக்கவைப்புடன் (Zero Data Retention) கூடிய நிறுவனப் பதிப்பு — மேலும் என்ன தரவை உள்ளிடலாம் மற்றும் உள்ளிடக்கூடாது என்ற தெளிவான, குறிப்பிட்ட பட்டியலை வெளியிடுங்கள். கடுமையை விடக் குறிப்பான தன்மை இங்கு முக்கியமானது. "முக்கியமான தரவைக் கவனமாகக் கையாளுங்கள்" என்பது யாரும் பின்பற்றக்கூடிய விதி அல்ல; "தேசிய அடையாள அட்டை எண்கள், மருத்துவப் பதிவுகள் அல்லது உறுதிப்பத்திர விவரங்களை ஒருபோதும் உள்ளிடாதீர்கள்" என்பது ஒரு தெளிவான விதி.

உண்மையான அபாயம் சுருக்கமாக. மக்கள் AI-ஐப் பயன்படுத்துவது அபாயம் அல்ல. நிறுவனக் கட்டுப்பாடு, ஒழுங்குமுறை அல்லது மனிதச் சரிபார்ப்பு இல்லாமல் தரவு இரகசியமாக வெளியேறுவதும் — அதைச் செய்யும் அலுவலர்களுக்கு உதவி கேட்க வழியில்லாமல் இருப்பதும் ஆகும்.

அடுத்த அத்தியாயத்தில், இந்த அபாயங்களை நிர்வகிக்கும் அதே வேளையில் குடிமக்கள் சேவைகளை எவ்வாறு உயர்த்துவது என்பதை ஆராய்வோம் — அவுகன சிற்பியின் மாதிரி (பரணஸ்தக் கோட்பாடு), மூன்று ஜப்பானிய முகங்கள் மற்றும் களுத்துறை பிரதேச செயலக அலுவலகத்தின் நெகிழ்ச்சியான அனுபவம், AI முகவர்கள் (AI Agents) மற்றும் எதிர்கால அமைப்புகள் வழியே அதை அறிவோம்.