08. உருவாக்க AI-இன் அபாயங்கள், ஒருசார்புநிலை மற்றும் பொறுப்புமிக்க பயன்பாடு

வெளியிடப்பட்டது 2026-09-14

முக்கியக் கருப்பொருள்: ஓர் AI கருவியானது தன்னம்பிக்கை மிக்க ஒரு பயிற்சியாளரைப் போன்றது (Confident Intern). அது வியத்தகு திறமையுடன் செயல்படும்; ஆனால் எவ்விதத் தயக்கமுமின்றி அப்பட்டமான பொய்களையும் கூறக்கூடியது. ஆவணத்தில் இறுதியாகக் கையொப்பமிடும், பதில்களைச் சமர்ப்பிக்கும், முடிவுகளை எடுக்கும் மனிதரிடமே இறுதிப் பொறுப்பு உள்ளது. மனிதனைக் கட்டுப்பாட்டில் வைத்திருக்கும் ஒரே அரண் வாசிப்பு மட்டுமே.

உருவாக்க AI-இன் ஏழு முக்கிய அபாயங்கள் யாவை?

இந்த அத்தியாயத்தில் உள்ள அனைத்தும் 03 ஆம் அத்தியாயத்தில் நிறுவப்பட்ட ஒரு தொழில்நுட்ப உண்மையிலிருந்தே தொடங்குகின்றன; அபாயங்களைப் பட்டியலிடுவதற்கு முன் அதை நினைவுகூர்வது அவசியம். ஒரு பெரு மொழி மாதிரி (LLM) என்பது ஒரு தகவல்களஞ்சியமோ அல்லது தரவுத்தளமோ அல்ல. அது புள்ளியியல் நிகழ்தகவின் அடிப்படையில் (P(w_t | w_<t)) அடுத்து வரக்கூடிய மிகவும் சாத்தியமான சொல்லைக் கணிக்கும் ஓர் இயந்திரம் மட்டுமே.

இதன் விளைவாகவே அனைத்துச் சேதங்களுக்கும் காரணமான பண்பு உருவாகிறது. தனக்குத் தெரியாத ஒரு விடயத்தை எதிர்கொள்ளும் போது, மாதிரி நின்று "எனக்குத் தெரியாது" என்று கூறுவதில்லை. அது இல்லாத தகவல்களைப் புனைந்துரைக்கிறது (Fabrication), மேலும் அதைத் தன்னம்பிக்கை மிக்க அதிகாரப்பூர்வ நடையில் முன்வைக்கிறது — ஏனெனில் சரளமான உரையை உருவாக்குவதற்கே அது வடிவமைக்கப்பட்டுள்ளது; மேலும் தனக்குத் தெரிந்தவற்றையும் தான் புனைந்தவற்றையும் பிரித்தறியும் தனித் திறன் அதற்கு இல்லை.

இதிலிருந்து ஏழு அபாயப் பரிமாணங்கள் உருவாகின்றன; அவை ஒவ்வொன்றும் ஓர் அரசு அலுவலரின் மேசைக்கு வருகின்றன. பொதுச் சேவையில் இதன் விளைவுகள் ஓர் இயந்திரத்தை எதிர்த்து மேல்முறையீடு செய்ய முடியாத சாமானிய குடிமக்கள் மீதே விழுவதால், அவை ஒவ்வொன்றும் தொழில்நுட்பத் தன்மையோடும் பொதுத்துறைத் தாக்கத்தோடும் கீழே விளக்கப்பட்டுள்ளன.

படம் 8.1: உருவாக்க AI-இன் அபாயங்கள் (Risks of Generative AI) — போலித் தோற்றம் (Hallucination), ஒருசார்புநிலை (Bias), தனியுரிமை (Privacy), சட்டப் பொறுப்பு (Legal), தவறான பயன்பாடு (Misuse), மிதமிஞ்சிய சார்பு (Over-reliance) மற்றும் டோக்கன் செலவு (Token Cost).

அபாயம் ஒன்று: போலித் தோற்றம் / புனைவு (Risk one: hallucination)

தொழில்நுட்ப ரீதியாக நடப்பது. சூழல் இடைவெளியையோ அல்லது உண்மையான நிச்சயமற்ற தன்மையையோ சந்திக்கும் போது, மாதிரி மொழியியல் ரீதியாக மிக அழகான, ஆனால் நடைமுறையில் எங்குமே இல்லாத தகவல்களை உருவாக்குகிறது.

நடைமுறையில் ஏற்படும் இழப்பு. நிஜ உலகில் இல்லாத நிர்வாகச் சுற்றறிக்கை எண்கள். கற்பனையான உயர் நீதிமன்றத் தீர்ப்புகள். சரியான வடிவத்திலும் உத்தியோகபூர்வ நடையிலும் ஆவணங்களுக்குள் நுழையும் புனையப்பட்ட மக்கள்தொகை புள்ளிவிவரங்கள். ஓர் அமைச்சின் செயலாளரோ அல்லது பிரதேச செயலாளரோ அத்தகைய ஆவணத்தில் கையொப்பமிட்ட கணத்தில், ஓர் கற்பனைக்கு அதிகாரப்பூர்வ ஆவணத்தின் வலிமை கிடைத்துவிடுகிறது — மேலும் அந்தப் பிழையின் பொறுப்பு ஓர் இயந்திரத்திற்குப் பதிலாக குறிப்பிட்ட மனிதருக்குச் சென்று சேர்கிறது.

அனைத்து அபாயங்களுக்கும் முன்னால் நிற்பது இதுவே; ஏனெனில் இது அமைதியாக, யாருக்கும் தெரியாமல் வருகிறது. இந்தப் பட்டியலிலுள்ள மற்ற அனைத்தும் காலப்போக்கில் தங்களை வெளிப்படுத்திக் கொள்ளும். ஆனால் போலித் தோற்றம் என்பது அச்சு அசல் உண்மை போலவே காட்சியளிக்கும்.

அபாயம் இரண்டு: ஒருசார்புநிலையும் சமத்துவமின்மையும் (Risk two: bias and inequity)

தொழில்நுட்ப ரீதியாக நடப்பது. மாதிரிக்குப் பயிற்சியளிக்கப் பயன்படுத்தப்பட்ட வரலாற்று இணையத் தரவுகளில் உள்ள சமூக, பொருளாதார, கலாச்சார மற்றும் மொழி சார்ந்த ஏற்றத்தாழ்வுகள் அதன் வெளியீடுகளை நேரடியாக வடிவமைக்கின்றன. கடந்த காலப் பதிவுகளிலிருந்து இயல்பானது எது என்பதை அது கற்றுக்கொண்டது; ஆனால் கடந்த காலம் நியாயமானதாக இருக்கவில்லை.

நடைமுறையில் ஏற்படும் இழப்பு. இலங்கையின் தேசிய நலன்புரித் திட்டங்களான அஸ்வெசும அல்லது சமுர்த்தி ஆகியவற்றின் கீழ் உதவிகளைத் தீர்மானிப்பதிலோ, அல்லது பொதுச் சேவை ஆட்சேர்ப்புப் பட்டியல்களைத் தயாரிப்பதிலோ விளிம்புநிலைச் சமூகங்கள், பெண் தலைமைத்துவக் குடும்பங்கள் மற்றும் தொலைதூர மாகாணங்களைச் சேர்ந்த மக்கள் தானாகவும் கண்ணுக்குத் தெரியாமலும் பாதிக்கப்படலாம். அமைப்பில் சுட்டிக்காட்டக்கூடிய பாகுபாட்டுக் கட்டளை எதுவும் இருக்காது; இது மனிதப் பாகுபாட்டை விட இதை எதிர்ப்பதை மிகவும் கடினமாக்குகிறது.

இதனால்தான் ஐரோப்பிய ஒன்றியத்தின் AI சட்டம் (EU AI Act - Regulation 2024/1689) பொது நலன்புரி மற்றும் பொதுச் சேவை முடிவுகளை "உயர் அபாய AI" (High-Risk AI) என்று வகைப்படுத்துகிறது — இது ஊக்குவிப்புகளுக்குப் பதிலாகக் கடமைகளை விதிக்கும் ஒரு வகையாகும். சர்வதேச சட்டத்தின் போக்கு தெளிவாக உள்ளது: குடிமகனுக்கான முடிவின் தாக்கம் அதிகரிக்க அதிகரிக்க, அதைத் தானியங்குபடுத்துபவர் மீதான நியாயத்தன்மையை நிரூபிக்கும் பொறுப்பும் அதிகரிக்கிறது.

அபாயம் மூன்று: இரகசியத்தன்மையும் தனியுரிமைக் கசிவும் (Risk three: confidentiality and privacy leakage)

தொழில்நுட்ப ரீதியாக நடப்பது. பொதுப் பயன்பாட்டு நுகர்வோர் AI கருவிகளில் உள்ளிடப்படும் தரவுகள் சேவை வழங்கும் நிறுவனத்தால் சேமிக்கப்பட்டு, அடுத்த தலைமுறை மாதிரிகளைப் பயிற்றுவிக்கப் பயன்படுத்தப்படலாம். நீங்கள் ஒரு இலவச அரட்டைச் சாளரத்தில் நகலெடுத்து ஒட்டும் எதுவும் பொதுவாக உங்கள் நிறுவனத்தை விட்டு வெளியேறிவிடுகிறது.

நடைமுறையில் ஏற்படும் இழப்பு. குடிமக்களின் தேசிய அடையாள அட்டை எண்கள், காணி உறுதிப்பத்திர விபரங்கள், மருத்துவப் பதிவுகள், இரகசிய அமைச்சரவைக் குறிப்புகள் — தங்கள் வேலையை முடிக்க முயலும் நல்லெண்ணம் கொண்ட அலுவலர்களால் திறந்த அமைப்புகளில் உள்ளிடப்படுகின்றன. இலங்கையின் 2022 ஆம் ஆண்டின் 9 ஆம் இலக்க தனிப்பட்ட தரவுப் பாதுகாப்புச் சட்டத்தின் (PDPA) கீழ், தரவுக் கட்டுப்பாட்டாளராகக் குடிமக்கள் தரவைப் பாதுகாப்பது அரசின் முழுமையான சட்டக் கடமையாகும்; மேலும் அந்தத் தகவல் கசிவு வசதிக்காகவோ அல்லது அறியாமலோ நிகழ்ந்தது என்பதற்காக அந்தக் கடமை தளர்ந்துவிடாது.

இந்த அபாயத்திற்கு எந்தப் பின்னூட்ட சுழற்சியும் இல்லை என்பதே நடைமுறைச் சிக்கலாகும். தவறான சாளரத்தில் ரகசியத் தரவை ஒட்டும்போது வெளிப்படையாக எதுவும் நடப்பதில்லை. அலுவலரின் வேலை எளிதாகிறது, எந்த எச்சரிக்கையும் தோன்றுவதில்லை, பழக்கம் உருவாகிறது — 07 ஆம் அத்தியாயத்தில் விவரிக்கப்பட்டுள்ளபடி, இது தனிப்பட்ட முடிவுக்கு விடப்படாமல் ஒரு நிறுவன விதியாக அறிவிக்கப்பட வேண்டியதன் காரணம் இதுவே.

அபாயம் நான்கு: சட்ட மற்றும் ஒழுங்குமுறைப் பொறுப்பு (Risk four: legal and regulatory liability)

தொழில்நுட்ப ரீதியாக நடப்பது. இந்தத் தலைப்பின் கீழ் இரண்டு வெவ்வேறு பிரச்சினைகள் உள்ளன: வணிக ரீதியாக அல்லது அறிவுசார் ரீதியாகப் பாதுகாக்கப்பட்ட ஆவணங்களை அனுமதியின்றிப் பயன்படுத்துதல், மற்றும் AI உருவாக்கிய வெளியீடுகளுக்கு பொதுவாக எந்தப் பதிப்புரிமைப் பாதுகாப்பும் கிடைக்காது என்ற உண்மை.

நடைமுறையில் ஏற்படும் இழப்பு. டெண்டர் ஆவணங்கள், கொள்கைப் பத்திரங்கள் அல்லது பாடத்திட்டங்களுக்குள் அறிவுசார் சொத்துரிமை மீறல்கள் ஏற்படுதல். மேலும் நிர்வாகிகள் கவனிக்க வேண்டிய மற்றொரு நுட்பமான விடயம் உள்ளது: நிர்வாகச் சட்டத்தின் கீழ், ஓர் அரசுத் தீர்மானம் ஒரு குறிப்பிட்ட மனிதப் பகுத்தறிவை அடிப்படையாகக் கொண்டிருக்க வேண்டும். "அமைப்பு இதை உருவாக்கியது" என்பதைத் தாண்டி விளக்க முடியாத ஒரு முடிவு, அதன் முடிவு எவ்வளவு பயனுள்ளதாக இருந்தாலும் நீதிமன்றத்தின் முன் சட்டவிரோதமானதாக மாறக்கூடும். பகுத்தறிவு என்பது முடிவின் மீதான அலங்காரம் அல்ல. முடிவைச் செல்லுபடியாக்கும் பகுதியே அதுதான்.

அபாயம் ஐந்து: தவறான பயன்பாடும் போலிப் பிம்பங்களும் (Risk five: misuse and deepfakes)

தொழில்நுட்ப ரீதியாக நடப்பது. பன்முறைமைக் (Multimodal) கருவிகளால் குரல் நகலாக்கம் (Voice cloning), போலி வீடியோக்கள் (Deepfakes) மற்றும் தானியங்கு சமூகப் பொறியியல் தாக்குதல்களை மிகக் குறைந்த செலவில் மின்னல் வேகத்தில் உருவாக்க முடியும்.

நடைமுறையில் ஏற்படும் இழப்பு. நிதி விடுவிப்புக்கு உத்தரவிட மாவட்டச் செயலாளர் அல்லது அமைச்சின் செயலாளரின் குரலைப் போலியாகப் பயன்படுத்தி தொலைபேசி அழைப்புகளைச் செய்தல். அதிகாரப்பூர்வ ஆவணங்களை நிமிடங்களில் போலியாக உருவாக்குதல். மேலும் தொழில்நுட்ப ரீதியாக, குற்றவாளிகள் MOSIP போன்ற அடையாளக் கட்டமைப்புகளிலோ அல்லது தானியங்கு ஆய்வுகளைத் தாங்க முடியாத பழைய அரசு வலைதளங்களிலோ உள்ள மென்பொருள் பலவீனங்களைத் தானாகக் கண்டறிந்து சுரண்டுவதற்கு AI-ஐப் பயன்படுத்துதல்.

இங்கு மாறியிருப்பது மோசடியின் இருப்பு அல்ல, மாறாக அதன் பொருளியல் மட்டுமே. ஒரு மூத்த அதிகாரியைப் போல ஆள்மாறாட்டம் செய்வதற்குப் புலமை, தயாரிப்பு மற்றும் தைரியம் தேவைப்பட்டது. இப்போது அதற்கு ஒரு குரல் மாதிரியும் சந்தாவும் போதுமானது; அதாவது தாக்குதலின் கடினத்தன்மையை நம்பியிருந்த பாதுகாப்பு முறைகள் இனி செல்லுபடியாகாது. தொலைபேசியில் கேட்கும் குரல் அடையாளத்திற்கான சான்று என்று கருதும் நடைமுறைகள் இப்போதே காலாவதியாகிவிட்டன.

அபாயம் ஆறு: மிதமிஞ்சிய நம்பிக்கையும் திறன் இழப்பும் (Risk six: over-reliance and deskilling)

தொழில்நுட்ப ரீதியாக நடப்பது. தானியக்கத்தின் எளிமையால் ஈர்க்கப்பட்டு, மனிதன் தனது ஆழமான சிந்தனை, பகுப்பாய்வு மற்றும் விமர்சனத் தீர்ப்பை அமைதியாக இக்கருவியிடம் ஒப்படைத்துவிடுகிறான்.

நடைமுறையில் ஏற்படும் இழப்பு. பாக்கெட் கால்குலேட்டர் வந்த பிறகு மனக்கணக்கு போடும் திறன் என்னவானதோ அதுவே இதற்கும் முன்னுதாரணம். அரசு அலுவலர் சிக்கலான சட்டங்களையும் சுற்றறிக்கைகளையும் வாசிப்பதை நிறுத்திவிட்டு முழுமையாக AI சுருக்கங்களைச் சார்ந்திருக்கத் தொடங்குகிறார்; சுருக்கங்கள் வழக்கமாகச் சரியாக இருப்பதால் அந்தப் பழக்கம் வலுப்பெறுகிறது; ஒன்றில் தவறு இருக்கும் போது அதைக் கவனிக்கும் திறன் அமைதியாக மறைந்துவிடுகிறது. காலப்போக்கில், எந்தவொரு தனிநபரும் அவ்வாறு முடிவெடுக்காமலேயே முழு சேவையின் அறிவுசார் மட்டமும் வீழ்ச்சியடையக்கூடும்.

இந்தப் பட்டியலிலுள்ள மிக மெதுவான மற்றும் மிகவும் கடுமையான அபாயம் இதுவே; ஏனெனில் மற்ற ஆறு அபாயங்களிலிருந்தும் பாதுகாக்கும் திறமையையே இது அழித்துவிடுகிறது. சுற்றறிக்கைகளை வாசிப்பதை நிறுத்திய ஓர் அலுவலரால் புனையப்பட்ட சுற்றறிக்கை எண்ணைக் கண்டுபிடிக்க முடியாது. முதல் அபாயமும் ஆறாவது அபாயமும் ஒன்றோடொன்று இணைக்கப்பட்டுள்ளன; அந்தத் தொடர்பு ஒரே திசையில்தான் பயணிக்கிறது.

அபாயம் ஏழு: செலவும் டோக்கன் பொருளியலும் (Risk seven: cost and token economics)

தொழில்நுட்ப ரீதியாக நடப்பது. வணிக ரீதியிலான API பயன்பாடுகள் டோக்கன்களை அதிக அளவில் பயன்படுத்துகின்றன; மேலும் சூழல் சாளர நினைவகம் மற்றும் முகவர் சுழற்சிகள் (Agentic loops) ஒரு முன்னோடித் திட்டத்திலிருந்து கணிக்க முடியாத வழிகளில் அந்தப் பயன்பாட்டைப் பெருக்குகின்றன.

நடைமுறையில் ஏற்படும் இழப்பு. சரியான கட்டமைப்புத் திட்டமும் வரவுசெலவுத் திட்டக் கட்டுப்பாடும் இல்லாவிட்டால், ஓர் அரசு நிறுவனம் தன்னால் தாங்க முடியாத மாதாந்திர செயல்பாட்டுச் செலவுகளை உருவாக்குகிறது. சில ஆயிரம் ரூபாய்களில் தொடங்கும் ஒரு முன்னோடித் திட்டம் பல லட்சம் ரூபாய் செலவாகும் சேவையாக மாறுகிறது; மேலும் சேவை பயன்பாட்டுக்கு வந்து அதைத் திரும்பப் பெறுவது அரசியல் ரீதியாகக் கடினமாகும் வரை செலவு வெளிப்படுவதில்லை.

அலங்காரமற்ற உண்மை என்னவென்றால்: கேள்வி AI-ஆல் வேலையைச் செய்ய முடியுமா என்பது அல்ல; முழு அளவில் இயங்கும் போது ஒரு பரிவர்த்தனைக்கு என்ன செலவாகும் என்பதே ஆகும். அந்த எண் ஆரம்ப வடிவமைப்பிலேயே இருக்க வேண்டும், முதல் பில்லில் அல்ல.

டெலாய்ட் (Deloitte) நிறுவனத்தின் $440,000 அறிக்கை ஏற்படுத்திய உண்மையான இழப்பு என்ன?

முதல் அபாயத்திற்கான தெளிவான நடைமுறை உதாரணம் கற்பனையான ஒன்றல்ல; அது அனுபவமற்ற ஓர் அமைப்பிற்கு நடக்கவில்லை. உலகின் மிகப்பெரிய தொழில்முறை சேவை நிறுவனங்களில் ஒன்றுக்கே இது நடந்தது.

படம் 8.2: டெலாய்ட் நிறுவனத்தின் AI பின்னடைவு விளக்கப்பட்டது — $440,000 மதிப்பிலான அறிக்கை எவ்வாறு பின்னடைவைச் சந்தித்தது (ஆஸ்திரேலிய கூட்டாட்சி அரசாங்கத்திற்குச் சமர்ப்பிக்கப்பட்ட அதிகாரப்பூர்வ அறிக்கையின் நிலை).

என்ன நடந்தது (What happened)

2025 ஆம் ஆண்டின் பிற்பகுதியில், டெலாய்ட் நிறுவனம் ஆஸ்திரேலிய அரசாங்கத்தின் வேலைவாய்ப்பு மற்றும் பணியிட உறவுகள் திணைக்களத்திற்காக 440,000 ஆஸ்திரேலிய டாலர் — 130 மில்லியன் இலங்கை ரூபாய்க்கும் அதிகமான — ஒப்பந்தத்தின் கீழ் ஒரு கொள்கை ஆராய்ச்சி அறிக்கையைத் தயாரித்தது (Deloitte's AI Fallout Explained: The $440,000 Report That Backfired).

ஆலோசனைக் குழு இலக்கிய ஆய்வு மற்றும் பொருளாதாரத் தரவுகளைச் சுருக்குவதற்கு உருவாக்க AI-ஐப் பயன்படுத்தியது — இது ஒரு நியாயமான பயன்பாடு மற்றும் தொழில்நுட்பம் சிறப்பாகச் செய்யும் ஒரு பணி. பின்னர் அந்த அறிக்கை ஆஸ்திரேலிய பாராளுமன்றத்தின் செனட் குழுவை அடைந்தது; மதிப்பாய்வாளர்கள் செய்ய வேண்டியதை அக்குழு செய்தது: அதாவது மேற்கோள்களைச் சரிபார்த்தது.

அறிக்கையில் மேற்கோள் காட்டப்பட்ட பல ஆய்வுக் கட்டுரைகள், ஆசிரியர்களின் பெயர்கள் மற்றும் நிறுவனங்களின் கணக்கெடுப்பு அறிக்கைகள் முழுக்க முழுக்கப் புனையப்பட்டவை — எங்குமே வெளியிடப்படாத கற்பனை ஆதாரங்கள்! மேற்கோள் காட்டப்பட்ட ஆதாரங்கள் உண்மையில் உள்ளனவா என்பதை நிறுவனத்தின் மூத்த ஆலோசகர்கள் ஒருவர் கூட சரிபார்க்கவில்லை. டெலாய்ட் தனது கட்டணத்தின் ஒரு பகுதியைத் திரும்பச் செலுத்தியதுடன் பாராளுமன்றத்தின் முன் பகிரங்கமாக மன்னிப்புக் கேட்டது; இதன் விளைவாக ஆஸ்திரேலிய அரசாங்கம் எதிர்கால அனைத்து பொது ஆலோசனைக் ஒப்பந்தங்களிலும் கடுமையான AI பயன்பாடு மற்றும் மனிதப் பொறுப்புக்கூறல் விதிகளைச் சட்டமாக்கியது.

வெறும் குறிப்பாகக் கடந்து செல்லாமல் இந்த வழக்கை ஏன் படிக்க வேண்டும் (Why this case is worth studying rather than merely noting)

மூன்று விவரங்கள் நமது கவனத்திற்குரியவை:

தோல்வி மதிப்பாய்வில்தான் இருந்ததே தவிர கருவியில் அல்ல. 03 ஆம் அத்தியாயம் விவரித்ததையே மாதிரி செய்தது: அது நம்பத்தகுந்த மேற்கோள்களை உருவாக்கியது, ஏனெனில் ஓர் ஆய்வுக் கட்டுரையின் கருத்தைத் தொடர்ந்து புள்ளியியல் ரீதியாக நம்பத்தகுந்த மேற்கோளே வரும். மேற்கோள் காட்டப்பட்ட கட்டுரை உள்ளதா என்று சரிபார்ப்பது எந்த நிபுணத்துவமும் தேவையில்லாத இரண்டு நிமிட வேலையாகும். ஆனால் அதை யாரும் செய்யவில்லை.

சரளமே மதிப்பாய்வாளர்களை ஏமாற்றியது. இவர்கள் தங்கள் சொந்தத் துறையிலுள்ள ஒரு ஆவணத்தைப் படித்த திறமையான, அதிக சம்பளம் பெறும் மூத்த நிபுணர்கள். புனையப்பட்ட ஆதாரங்கள் தவறாகத் தெரியவில்லை, ஏனெனில் ஒரு நல்ல மாதிரி உருவாக்கும் போலி ஆதாரங்கள் ஒருபோதும் தவறாகத் தெரிவதில்லை — சரியான ஆசிரியர் பெயர்கள், நம்பத்தகுந்த இதழ்கள், பொருத்தமான தலைப்புகள், பொருந்தக்கூடிய தேதிகள். பலவீனமான ஆதாரத்தைக் கண்டறிய ஒரு பயிற்சி பெற்ற வாசகர் பயன்படுத்தும் அனைத்துக் குறிகளும் அங்கிருந்தன; அவை அனைத்தும் தயாரிக்கப்பட்டவை.

ஒழுங்குமுறை எதிர்வினை உடனடியானதாகவும் நிரந்தரமானதாகவும் இருந்தது. ஓர் சம்பவம் எதிர்கால அனைத்து விநியோகஸ்தர்களுக்கும் ஒப்பந்தக் கடமைகளை உருவாக்கியது. எல்லா இடங்களிலும் இதுவே போக்கு: பொது AI தோல்வியின் செலவு அனைவருக்கும் விதிக்கப்படும் விதியாக மாறுகிறது; அதாவது உங்கள் நிறுவனம் தவறு செய்தாலும் செய்யாவிட்டாலும் இணக்கப் பாரம் உங்களை வந்தடைகிறது.

மனிதனைக் கட்டுப்பாட்டில் வைத்திருக்க உதவும் ஒரே வழிமுறையாக வாசிப்பு அமைவது ஏன்?

இதுவரை விவாதிக்கப்பட்ட பாதுகாப்புகள் அனைத்தும் — கட்டுப்பாடுகள், மீட்டெடுத்தல், சரிபார்ப்பு அடுக்குகள் — இறுதியில் ஒரேயொரு மனிதச் செயலை நம்பியே உள்ளன. தவறை உணரும் திறன் கொண்ட ஒரு மனிதரால் அது வாசிக்கப்பட வேண்டும்.

படம் 8.3: உருவாக்க AI யுகத்தில், மனிதப் பொறுப்பைத் (Human in the loop) தக்கவைப்பது வாசிப்பே ஆகும் — வாசிப்பு என்பது ஒரு செயலற்ற செயல் அல்ல, மாறாக அறிவாற்றலை நிர்வகிக்கும் மனித இடைமுகமாகும் (சமீச அபேசிங்க).

இந்த விடயம் தொடர்பாக வெளியிடப்பட்ட ஓர் இடசர கட்டுரையில் அடிப்படைக் கொள்கை இவ்வாறு குறிப்பிடப்பட்டுள்ளது:

"எந்திரங்களால் நொடிகளில் நூற்றுக்கணக்கான பக்கங்களை எழுத முடியும். எழுத்தின் வேகம் மயக்கமளிக்கக் கூடியது. ஆனால் இந்தத் தானியங்கு படைப்புகளுக்கு முன்னால் நமது அறிவுசார் சரணடைதலைத் தடுக்கும் ஒரே சுவர் ஆழமான, கவனமான மற்றும் பகுத்தறியும் வாசிப்பு (deep, deliberate, and discerning reading) மட்டுமே. நீங்கள் வாசிப்பதை நிறுத்தும் நாளே நீங்கள் எந்திரத்தின் ஊழியராக மாறும் நாளாகும்."

அந்த வாக்கியம் சுட்டிக்காட்டும் சமச்சீரற்ற தன்மையே இந்தத் தொழில்நுட்பத்தின் ஆளும் உண்மையாகும். எழுதுவது நடைமுறையில் இலவசமாகவும் உடனடியானதாகவும் மாறிவிட்டது; ஆனால் சரிபார்ப்பு துளியும் வேகமாகவில்லை. ஒரு நபர் வழக்கம்போல நிமிடத்திற்கு சில நூறு சொற்களை மட்டுமே வாசிக்கிறார். எனவே ஒரு நிறுவனம் சரிபார்க்கக்கூடிய அளவை விட உற்பத்தி செய்யக்கூடிய சரிபார்க்கப்படாத உள்ளடக்கத்தின் அளவு பன்மடங்கு அதிகமாகிறது; அந்த இரண்டு விகிதங்களுக்கும் இடையே உள்ள இடைவெளியிலேயே பிழைகள் பதிவேடுகளுக்குள் நுழைகின்றன.

மேலோட்டமாகப் பார்ப்பது (Skimming) வாசிப்பல்ல

தோல்வி முறை வாசிக்க மறுப்பது அல்ல. அது விடாமுயற்சி போல் தோன்றும் வாசிப்பின் ஒரு குறிப்பிட்ட வடிவமாகும்: AI எழுதிய பத்து பக்க அறிக்கையைப் பார்த்து, மொழி நேர்த்தியாக உள்ளது என்பதை உறுதிசெய்து கையொப்பமிடுவது. டெலாய்ட் நிறுவனம் சென்ற பாதை அதுவேயாகும்; மேலும் நேர நெருக்கடியில் இருக்கும் ஒரு திறமையான நபரின் இயல்பான நடத்தையும்கூட.

ஆழமான கவனமான வாசிப்பில் உண்மையில் அடங்குபவை

உண்மையான சரிபார்ப்பை மேலோட்டமான பார்வையிலிருந்து பிரிக்கும் மூன்று சோதனைகள் உள்ளன; அவை ஒவ்வொன்றும் பொதுவான மனப்பான்மையை விட ஒரு குறிப்பிட்ட கேள்வியாகும்:

தர்க்கரீதியான தடம் (A logical trace). அடிப்படைக் கூற்றுகள் A மற்றும் B உண்மையில் C என்ற முடிவை நிறுவுகின்றனவா, அல்லது மாதிரி அவற்றுக்கிடையே பொருந்தாத ஒரு பாலத்தைக் கட்டியுள்ளதா? சரளமான உரை உடைந்த தர்க்கங்களை மிக நேர்த்தியாக மறைக்கிறது, ஏனெனில் இணைப்புச் சொற்கள் — எனவே, இதன் விளைவாக, இதிலிருந்து தொடர்வது — எவ்விதத் தொடர்பும் உள்ளதா இல்லையா என்பதைப் பொருட்படுத்தாமல் அதே நம்பிக்கையுடன் உருவாக்கப்படுகின்றன.

கட்டுப்பாடுகளுக்கு இணங்குதல் (Constraint compliance). உங்கள் தூண்டலில் உள்ள எதிர்மறைக் கட்டுப்பாடுகளுக்கும் சட்ட நிபந்தனைகளுக்கும் மாதிரி முழுமையாகக் கீழ்ப்படிந்துள்ளதா? பகுதி இணக்கம் பொதுவானது மற்றும் எளிதில் தவறவிடக்கூடியது: உங்கள் பத்து நிபந்தனைகளில் ஒன்பது ஏற்கப்பட்டு பத்தாவது அமைதியாகக் கைவிடப்படலாம். நீங்கள் விதித்த கட்டுப்பாடுகளைத் தனித்தனியாகச் சரிபாருங்கள், ஏனெனில் அவை என்னவென்று தெரிந்த ஒரே நபர் நீங்கள்தான்.

பரிவுணர்வுப் பொருத்தம் (Empathetic alignment). ஆவணத்தின் மொழி குடிமகனின் உண்மையான வேதனையோடும், நிர்வாக விவேகத்துடன் மதிப்பிடப்படும் பொதுச் சேவையின் கண்ணியத்தோடும் ஒத்துப்போகிறதா? இது எந்த மாதிரியாலும் செய்ய முடியாத ஒரு தீர்ப்பாகும், ஏனெனில் ஆவணத்தை யார் வாசிப்பார்கள், அதைப் பெறும்போது எப்படி உணர்வார்கள் என்பதை அறிவது இதற்கு அவசியம். தொழில்நுட்ப ரீதியாகக் குறையற்ற, ஆனால் அனுப்புவதற்கு முற்றிலும் தகுதியற்ற ஓர் ஆவணத்தைக் கண்டறியும் அதிக வாய்ப்பு இச்சோதனைக்கே உண்டு.

AI ஒருசார்புநிலை (Bias) என்றால் என்ன, அதை எவ்வாறு தடுப்பது?

இரண்டாவது அபாயம் முதலாவதிலிருந்து மாறுபட்டுச் செயல்படுவதால் தனித்துக் கவனிக்கப்பட வேண்டும். போலித் தோற்றம் நீங்கள் கண்டறியக்கூடிய ஒரு தவறான பதிலை அளிக்கிறது. ஆனால் ஒருசார்புநிலை என்பது நடுநிலையானதாகத் தோன்றும், நம்பகமான வடிவத்தில் வரும், மற்றும் இருக்கும் சமூகப் பாகுபாட்டைப் பெருமளவில் மீளுருவாக்கம் செய்யும் நிலையான பதிலை அளிக்கிறது — அந்த நிலையான தன்மையே அதைக் காண்பதை மிகவும் கடினமாக்குகிறது.

படம் 8.4: AI பட்சபாதத்தைப் புரிந்துகொள்வதும் தடுத்தலும் — பட்சபாதத்திற்கான 3 காரணங்கள் (வரலாற்றுப் பாகுபாடு, வழிமுறைப் பெருக்குதல், மனித வடிவமைப்புப் பட்சபாதம்) மற்றும் 3 தடுப்பு நடவடிக்கைகள்.

படம் 8.5: தரவு விதி — குறுகிய தரவு ஒருசார்பு வெளியீடுகளை உருவாக்குகிறது; பன்முகப்படுத்தப்பட்ட தரவு ஒரு நியாயமான மாதிரியை உருவாக்குகிறது.

AI ஒருசார்புநிலை என்றால் என்ன (What AI bias is)

ஒரு சமூகக் குழு, ஓர் இனம், ஒரு பாலினம் அல்லது ஒரு பிராந்தியத்திற்குப் பாதகமாக இருக்கும் வகையில் சமத்துவமற்ற முடிவுகளை ஒரு மாதிரி முறைமையாக உருவாக்குவது.

படத்தில் உள்ள விளக்கம் பொதுவான செயல்விளக்கமாகும்; அதன் வலிமை ஒப்பீட்டளவில் உள்ளது: ஒரே மாதிரியான தகுதிகளுடன் "சாரா சென்" என்ற பெண் விண்ணப்பதாரர் நிராகரிக்கப்படுகிறார், அதே வேளையில் "டேவிட் ஸ்மித்" என்ற ஆண் விண்ணப்பதாரர் தேர்ந்தெடுக்கப்படுகிறார். பெயரைத் தவிர இரண்டு கோப்புகளுக்கும் இடையே வேறு எதுவும் இல்லை. அமைப்பின் எந்த விதியிலும் பாலினம் பற்றிக் குறிப்பிடப்படவில்லை.

இந்த அபாயத்தை நிறுவன ரீதியாக ஆபத்தானதாக்குவது அதுவேயாகும். ஒருசார்பான மனித முடிவில் வாதிடுவதற்கு ஒரு மனிதர் இருக்கிறார். ஒருசார்பான மாதிரி முடிவில் அனைவருக்கும் ஒரே மாதிரியாகத் தோன்றும், புறநிலையானது போல் தோற்றமளிக்கும் ஓர் எண் மட்டுமே இருக்கும் — அந்தத் தோற்றமே மேல்முறையீடு செய்வதைக் கடினமாக்குகிறது.

இது ஏன் நிகழ்கிறது (Why it happens)

பயிற்சித் தரவில் உள்ள வரலாற்றுப் பாகுபாடு. நேற்றைய பாலின ஊதிய இடைவெளிகளையும் சமூக ஏற்றத்தாழ்வுகளையும் சுமந்துள்ள பதிவுகளில் பயிற்றுவிக்கப்பட்ட ஒரு மாதிரி அந்த வடிவங்களை முறையான விதிகளாகக் கற்றுக்கொள்கிறது. அது நியாயத்தைப் பற்றிச் சிந்திப்பதில்லை; தனக்கு அளிக்கப்பட்ட பதிவில் புள்ளியியல் ரீதியாக இயல்பானதை அது மீளுருவாக்கம் செய்கிறது. பதிவு என்பது வரலாற்றின் விவரிப்பாகும்; வரலாறு சமத்துவமற்றதாக இருந்தது.

வழிமுறைப் பெருக்குதல் (Algorithmic amplification). இது மக்களை ஆச்சரியப்படுத்தும் பகுதியாகும். தரவில் உள்ள ஒரு சிறிய சாய்வு மாறாமல் மாதிரியைக் கடந்து செல்வதில்லை — புள்ளியியல் உகப்பாக்கம் அதைக் கூர்மையாக்குகிறது. வரலாற்று நிகழ்வுகளில் அறுபது சதவீதத்தில் இருக்கும் ஒரு போக்கு மாதிரியின் வெளியீட்டில் ஒரு முழுமையான விதியாக வெளிப்படும், ஏனெனில் பயிற்சி செயல்முறை உறுதியான வடிவங்களைப் பின்பற்றுவதற்கு வெகுமதி அளிக்கிறது. ஒருசார்புநிலை லேசாக நுழைந்து தீவிரமாக வெளிவருகிறது.

வடிவமைப்பில் மனித அறிவாற்றல் சார்பு. இந்த அமைப்புகளை உருவாக்கும் பொறியாளர்கள் தங்கள் சொந்த அனுமானங்களின்படி அம்சங்களைத் தேர்ந்தெடுத்து வெற்றியை வரையறுக்கிறார்கள்; மேலும் வணிக அழுத்தம் வழக்கமாக அளவிட கடினமான நியாயத்திற்கு மேல் அளவிடக்கூடிய இலாபத்தை முன்னிறுத்துகிறது. இது நிகழ்வதற்கு யாரும் தவறான எண்ணத்துடன் செயல்பட வேண்டியதில்லை. சங்கடமான கேள்வியைக் கேட்கக்கூடிய யாரும் குழுவில் இல்லாமல் இருந்தாலே போதுமானது.

இதை எவ்வாறு தடுப்பது (How to prevent it)

தரவை பன்முகப்படுத்துவதும் தணிக்கை செய்வதும். பயன்பாட்டிற்கு முன் உங்கள் நிறுவனத்தின் தரவுத்தொகுப்புகளைத் தணிக்கை செய்யுங்கள்; மேலும் கணினி முடிவெடுக்கும் ஒவ்வொரு சமூகப் பிரிவையும் அவை உண்மையில் பிரதிநிதித்துவப்படுத்துகின்றன என்பதை உறுதிப்படுத்துங்கள். குறுகிய தரவு ஒருசார்பு வெளியீட்டை உருவாக்குவது கணித ரீதியானதே தவிர துரதிர்ஷ்டமல்ல; தொடக்கத்திலேயே மக்களைப் புறக்கணித்த தரவுத்தொகுப்பை முடிவில் எவ்வளவு கவனம் செலுத்தினாலும் சரிசெய்ய முடியாது.

வழிமுறையைத் தவறாமல் தணிக்கை செய்யுங்கள். தொடக்கத்தில் ஒரு முறை சான்றளிப்பதற்குப் பதிலாக நியாயத்தன்மை அளவீடுகளுக்கு எதிராக மாதிரியின் முடிவுகளைத் தொடர்ந்து சோதிக்கவும். உள்ளீடுகள் மாறும்போது நடத்தை மாறுகிறது; கடந்த ஆண்டின் விண்ணப்பதாரர் குழுவில் நியாயமாக இருந்த அமைப்பு இந்த ஆண்டு தானாகவே நியாயமாக இருக்காது.

உள்ளடக்கிய குழுக்களை உருவாக்குங்கள். பல்வேறு சமூகப் பின்னணிகள், துறைகள் மற்றும் உணர்திறன் கொண்ட தொழில்முறை நிபுணர்களிடமிருந்து தொழில்நுட்பக் குழுக்களை உருவாக்குங்கள். இது இந்தப் பட்டியலிலுள்ள குறைந்த தொழில்நுட்பத் தீர்வாகும்; ஆனால் பெரும்பாலும் மிகவும் பயனுள்ளதாக இருக்கும்: ஏனெனில் பெரும்பாலான ஒருசார்புநிலை உற்பத்தி நிலையை அடைவது அது அங்கீகரிக்கப்பட்டதால் அல்ல, மாறாக அங்கிருந்த யாரும் அதை அடையாளம் காணாததால்தான். பொதுவாகப் பிரச்சினையைக் கண்டறிபவர் அதனால் பாதிக்கப்பட்ட நபராகவே இருப்பார்.

போலித் தோற்றங்கள் (Hallucinations) ஏன் ஏற்படுகின்றன, அவற்றைத் தடுப்பது எது?

போலித் தோற்றம் என்பது ஒரே காரணத்தைக் கொண்ட ஒரு தோல்வி அல்ல. அதற்கு மூன்று தனித்தனி மூலங்கள் உள்ளன; ஒவ்வொன்றிற்கும் தீர்வு வேறுபடுகிறது — தவறான தீர்வைப் பயன்படுத்துவது பிரச்சினையை அப்படியே விட்டுவிடும் என்பதால் இது முக்கியமானது.

படம் 8.6: AI போலித் தோற்றங்களைப் புரிந்துகொள்வதும் தடுத்தலும் — புனையப்பட்ட தகவல்களுக்கான 3 காரணங்கள் (குப்பை உள்ளீடு, குப்பை வெளியீடு / மாதிரியின் வரம்புகள் / குழப்பமான தூண்டல்கள்) மற்றும் அவற்றின் 3 தீர்வுகள்.

அட்டவணையை முழுமையாகப் படிப்பது பயனுள்ள முடிவைத் தருகிறது. முதல் வரிசை தரவு பிரச்சினை; மாதிரியின் நினைவகத்தை நம்புவதற்குப் பதிலாக அதிகாரப்பூர்வ ஆவணத்தை வழங்குவதன் மூலம் இது தீர்க்கப்படுகிறது. மூன்றாவது ஒரு தூண்டல் பிரச்சினை; என்டரை அழுத்துவதற்கு முன் உங்களிடமிருந்தே எந்தச் செலவுமின்றித் தீர்க்கப்படுகிறது. இரண்டாவது மட்டுமே தொழில்நுட்பத்தின் உண்மையான வரம்பாகும் — அதற்கான தீர்வு தொழில்நுட்ப ரீதியானது அல்ல. அது வெளியீட்டை மூலத்துடன் ஒப்பிடும் ஒரு மனிதர் மட்டுமே.

இரண்டாவது வரிசை விவரிப்பதையும் கவனியுங்கள், ஏனெனில் இது தொழில்முறைப் பயன்பாட்டில் மிகவும் ஏமாற்றும் தோல்வி முறையாகும்: புனையப்பட்ட வழக்கு எண்களுடன் உண்மையான நீதிபதிகளின் பெயர்கள் இணைக்கப்படுவது. வெளிப்படையாகக் கண்டுபிடிக்கக்கூடிய பொய் அல்ல, மாறாக ஒரே மேற்கோளில் உண்மை மற்றும் பொய் கூறுகளின் கலவை. நீதிபதியின் பெயரை அடையாளம் காணும் மதிப்பாய்வாளர் பரிச்சயத்தின் ஆறுதலை உணர்ந்து சரிபார்ப்பதை நிறுத்துகிறார். சரிபார்ப்பு வழக்கு எண்ணையும் சென்றடைய வேண்டும்.

ஒரு சரிபார்ப்புப் பணிப்பாய்வு (Verification Workflow) நடைமுறையில் எவ்வாறு அமைகிறது?

படம் 8.7: Three-Tier Human-in-the-Loop Verification Pipeline — பல மாதிரி ஒருங்கிணைப்பு, கட்டுப்பாடுகள் அமலாக்கம் மற்றும் நிர்வாகப் பொறுப்புக்கூறல்.

மேலே உள்ள கொள்கைகள் மீண்டும் மீண்டும் செய்யக்கூடிய ஒரு வரிசையாக மட்டுமே செயல்பட முடியும். உற்பத்தித் தர வேலைகளில் நிலைத்து நிற்கும் பின்வரும் நான்கு அடுக்கு முறைமை உள்ளது; இதில் ஒவ்வொரு அடுக்கும் அடுத்த அடுக்கு செய்ய முடியாத ஒன்றைச் செய்கிறது.

அடுக்கு ஒன்று — நேரலை ஆதாரங்களுக்கு எதிராக உண்மைகளை நிறுவுதல். Google Search AI Mode போன்ற மேற்கோள்களுடன் தற்போதைய தகவல்களைப் பெறும் ஒரு தேடல் கருவியுடன் தொடங்கி சரிபார்க்கப்பட்ட நிலையைச் சேகரிக்கவும்: சமீபத்திய வர்த்தமானிகள், அதிகாரப்பூர்வ வலைத் தரவுகள் மற்றும் திறக்கக்கூடிய இணைப்புகள். உண்மைகள் இந்த நிலையிலும் இந்த நிலையில் மட்டுமே செயல்முறைக்குள் நுழைகின்றன. பைப்லைனில் பின்னர் எதுவும் புதிய உண்மையை அறிமுகப்படுத்த அனுமதிக்கப்படுவதில்லை.

அடுக்கு இரண்டு — சூழலை உருவாக்கி அறிவுறுத்தலை வடிவமைத்தல். அந்தச் சரிபார்க்கப்பட்ட சுருக்கத்தை Gemini போன்ற வலுவான உள்ளூர் மொழித் திறன் கொண்ட ஒரு மாதிரிக்கு எடுத்துச் சென்று, இலங்கைச் சூழல் மற்றும் தமிழ்/சிங்கள மொழித் துல்லியத்துடன் அதை விரிவுபடுத்துங்கள். பின்னர் இறுதி ஆவணத்தை எழுதுவதற்குப் பதிலாக அடுத்த கருவியை எழுத அந்த மாதிரியைப் பயன்படுத்துங்கள்: "இந்தச் சரிபார்க்கப்பட்ட உண்மைகளின் அடிப்படையில், இந்தச் சட்ட ஆவணத்தை வரைவதற்கு Claude மாதிரிக்கு வழங்க வேண்டிய — எதிர்மறைக் கட்டுப்பாடுகளுடன் கூடிய — உகந்த தூண்டலை எழுதுங்கள்." ஒரு மாதிரி மற்றொரு மாதிரிக்குத் தூண்டலை வடிவமைக்க வைப்பது மறைமுகமாகத் தோன்றினாலும் நடைமுறையானது. தூண்டல் உருவாக்கம் என்பது மாதிரிகள் சிறப்பாகச் செய்யும் ஒரு பணியாகும்; இது கட்டுப்பாடுகளை ஊகிப்பதற்குப் பதிலாக வெளிப்படையாகக் குறிப்பிட வைக்கிறது.

அடுக்கு மூன்று — வடிவமைக்கப்பட்ட தூண்டலுடன் வரைவு செய்தல். இறுதிப் பகுப்பாய்வு மற்றும் கட்டமைக்கப்பட்ட வரைவுக்காக ஆழமான தர்க்கரீதியான அமைப்புக்கு ஏற்ற Claude போன்ற மாதிரிக்கு அந்தத் தூண்டலைக் கொண்டு செல்லுங்கள். இந்த நேரத்தில் மாதிரி ஏற்கனவே சரிபார்க்கப்பட்ட உண்மைகள் மற்றும் ஏற்கனவே குறிப்பிடப்பட்ட கட்டுப்பாடுகளின் அடிப்படையில் இயங்குகிறது; இது புனைவுக்கான பெரும்பாலான வாய்ப்புகளை நீக்குகிறது.

அடுக்கு நான்கு — மனிதக் கட்டுப்பாடும் கையொப்பமும். இறுதியாக ஆவணத்தை வரி வரியாகப் படித்து, முதல் அடுக்கின் ஆதாரங்களுக்கு எதிராக அதன் துல்லியத்தை உறுதிசெய்து கையொப்பமிடுங்கள்.

இந்த முறைமை பற்றி இரண்டு விடயங்களைக் கவனிக்க வேண்டும். முதலாவதாக, இது வெவ்வேறு மாதிரிகளைத் திட்டமிட்டுப் பயன்படுத்துகிறது — தனது சொந்த வேலையைச் சரிபார்க்கும் ஒரு மாதிரி தனது சொந்தக் குருட்டுப் புள்ளிகளைப் பகிர்ந்துகொள்கிறது; வெவ்வேறு பயிற்சித் தரவுகளைக் கொண்ட இரண்டாவது அமைப்பு அவ்வாறு செய்யாது. இரண்டாவதாக, மிக முக்கியமாக, கடைசி அடுக்கு ஒரு தொழில்நுட்ப செயல்முறையுடன் இணைக்கப்பட்ட வெறும் சம்பிரதாயம் அல்ல. பொறுப்புக்கூறலைச் சுமக்கும் ஒரே அடுக்கு இதுவே; அதற்கு முந்தைய மூன்று அடுக்குகள் முடிவில் வாசிப்பதை முடிந்தவரை நம்பகமானதாக மாற்றவே உள்ளன. சரியாகப் பயன்படுத்தப்படும் போது இந்த அடுக்கு முறை போலித் தோற்றங்கள் நழுவுவதை முழுமையாகத் தடுக்கிறது — ஆனால் அதன் செயல்திறன் நான்காவது அடுக்கில்தான் வாழ்கிறது.

நிழல் AI (Shadow AI) என்றால் என்ன, AI-ஐத் தடை செய்வது ஏன் அதை மோசமாக்குகிறது?

ஒரு யதார்த்தத்தை நேர்மையாக எதிர்கொள்ள வேண்டும்; ஏனெனில் நிறுவனக் கொள்கைகள் பெரும்பாலும் அது உண்மையல்ல என்பது போல எழுதப்படுகின்றன: அரசு அலுவலர்கள் ஏற்கனவே அதிகாரப்பூர்வக் கோப்புகளைத் தங்கள் தனிப்பட்ட தொலைபேசிகளில் உள்ள இலவச ChatGPT-க்கு அனுப்பி வருகின்றனர்.

இது தவறான எண்ணத்துடன் செய்யப்படுவதில்லை. கோப்புச் சுமை தாங்க முடியாததாக உள்ளது; கருவி உண்மையில் உதவுகிறது. நிலுவையில் உள்ள அறுபது கோப்புகளுடனும் தங்கள் தொலைபேசியில் ஒரு இலவசக் கருவியுடனும் இரவில் வேலை செய்யும் அலுவலர் பொறுப்பற்றவர் அல்ல; தங்களுக்குக் கிடைக்கும் ஒரே வழியில் அவர்கள் திறமையாகச் செயல்பட முயற்சிக்கிறார்கள்.

தடை செய்வது அதை நிறுத்தாது. உண்மையான உற்பத்தித்திறன் நன்மையை வழங்கிய ஒவ்வொரு தொழில்நுட்பத்திலும் இதுவே நிரூபிக்கப்பட்டுள்ளது. ஒரு நிறுவனம் AI-ஐத் தடை செய்யும் போது பயன்பாடு நின்றுவிடாது — அது பார்வைக்குத் தெரியாத இடத்திற்கு நகர்கிறது. தடையானது நடைமுறையை அல்லாமல், வழிகாட்டுதல், பயிற்சி அல்லது பாதுகாப்புகளை வழங்குவதற்கான நிறுவனத்தின் பார்வையை நீக்குகிறது. இதன் விளைவாக மிக மோசமான சூழல் ஏற்படுகிறது: எந்த விதிகளும் இன்றி, பதிவுகளும் இன்றி, என்ன தரவு கசிந்துள்ளது என்று எவராலும் கூற முடியாத நிலையில் அதே தரவு நிறுவனத்தை விட்டு வெளியேறுகிறது.

அதற்குப் பதிலாக அங்கீகரிக்கப்பட்ட வழியை வழங்குங்கள். பாதுகாப்பான ஒரு கருவியை அங்கீகரியுங்கள் — பூச்சியத் தரவுத் தக்கவைப்புடன் (Zero Data Retention) கூடிய நிறுவனப் பதிப்பு — மேலும் என்ன தரவை உள்ளிடலாம் மற்றும் உள்ளிடக்கூடாது என்ற தெளிவான, குறிப்பிட்ட பட்டியலை வெளியிடுங்கள். கடுமையை விடக் குறிப்பான தன்மை இங்கு முக்கியமானது. "முக்கியமான தரவைக் கவனமாகக் கையாளுங்கள்" என்பது யாரும் பின்பற்றக்கூடிய விதி அல்ல; "தேசிய அடையாள அட்டை எண்கள், மருத்துவப் பதிவுகள் அல்லது உறுதிப்பத்திர விவரங்களை ஒருபோதும் உள்ளிடாதீர்கள்" என்பது ஒரு தெளிவான விதி.

வெளிப்படைத்தன்மையைப் பாதுகாப்பானதாக்குங்கள். "நான் இந்த முதல் வரைவை AI உதவியுடன் தயாரித்தேன்; பின்னர் நான் அதை மதிப்பாய்வு செய்து திருத்தினேன்" என்று வெளிப்படையாகக் கூறும் ஓர் ஊழியர் அதற்காக ஒருபோதும் தண்டிக்கப்படக்கூடாது. வெளிப்படுத்தலைத் தண்டிப்பது AI பயன்பாட்டைக் குறைக்காது; அது வெளிப்படுத்துவதைக் குறைக்கிறது, மேலும் நிறுவனத்திற்குச் சரிபார்ப்பு எங்கு தேவை என்பதை அறிந்துகொள்வதற்கான ஒரே வழிமுறையே வெளிப்படுத்தலாகும்.

உண்மையான அபாயம் சுருக்கமாக. மக்கள் AI-ஐப் பயன்படுத்துவது அபாயம் அல்ல. நிறுவனக் கட்டுப்பாடு, ஒழுங்குமுறை அல்லது மனிதச் சரிபார்ப்பு இல்லாமல் தரவு இரகசியமாக வெளியேறுவதும் — அதைச் செய்யும் அலுவலர்களுக்கு உதவி கேட்க வழியில்லாமல் இருப்பதும் ஆகும்.

அடுத்த அத்தியாயத்தில், இந்த அபாயங்களை நிர்வகிக்கும் அதே வேளையில் குடிமக்கள் சேவைகளை எவ்வாறு உயர்த்துவது என்பதை ஆராய்வோம் — அவுகன சிற்பியின் மாதிரி (பரணஸ்தக் கோட்பாடு), மூன்று ஜப்பானிய முகங்கள் மற்றும் களுத்துறை பிரதேச செயலக அலுவலகத்தின் நெகிழ்ச்சியான அனுபவம், AI முகவர்கள் (AI Agents) மற்றும் எதிர்கால அமைப்புகள் வழியே அதை அறிவோம்.