තවත් භාෂාවලින්: English · தமிழ்
08. උත්පාදක AI හි අවදානම්, පක්ෂග්‍රාහීත්වය සහ වගකීම් සහගත භාවිතය
ප්‍රකාශිත 2026-09-14
ප්‍රධාන තේමාව: AI මෙවලමක් යනු ආත්මවිශ්වාසයෙන් පිරි සීමාවාසිකයෙකු (Confident Intern) බඳුය. එය ඉතා දක්ෂ ලෙස වැඩ කරයි; නමුත් කිසිදු පැකිලීමකින් තොරව පට්ටපල් බොරු කීමටද පුළුවන. අවසාන නීතිමය වගවීම ඇත්තේ අත්සන තබන, පිළිතුර ඉදිරිපත් කරන, තීරණය ගන්නා මිනිසා සතුවය. කියවීම යනු මානවයා පාලනය රඳවා ගන්නා එකම පවුරයි.
උත්පාදක AI හි ප්‍රධාන අවදානම් හත මොනවාද?
මෙම පරිච්ඡේදයේ ඇති සෑම කරුණක්ම 03 වන පරිච්ඡේදයේ තහවුරු කළ එක් මූලික තාක්ෂණික සත්‍යයකින් පැන නගින අතර, අවදානම් නම් කිරීමට පෙර එය නැවත සිහිපත් කිරීම වටී. මහා පරිමාණ භාෂා ආකෘතියක් යනු තොරතුරු ගබඩාවක් හෝ දත්ත සමුදායක් (Database) නොවේ. එය හුදෙක් සංඛ්‍යානමය සම්භාවිතාව මත පදනම්ව වඩාත්ම ගැළපෙන ඊළඟ වචනය අනුමාන කරන එන්ජිමකි (P(w_t | w_<t)).
මෙහි ප්‍රතිඵලය වන්නේ සියලු හානිවලට මුල්වන ගුණාංගයයි. තමන් දන්නා දෙයෙහි හිඩැසක් හමු වූ විට, ආකෘතිය නතර වී "මම නොදනිමි" කියා පවසන්නේ නැත. එය සාවද්‍ය කරුණු ගොතා ඉදිරිපත් කරන අතර (Fabrication), අතිශය විශ්වාසනීය සහ නිල ස්වරූපයෙන් එම ගෙතූ කරුණු ඉදිරිපත් කරයි — මන්ද ගලායන නිමැවුමක් නිපදවීම සඳහා එය ප්‍රශස්ත කර ඇති බැවිනි; තවද තමන් දන්නා දේ සහ තමන් විසින් ගොතන දේ අතර වෙනස හඳුනාගැනීමේ කිසිදු වෙනම හැකියාවක් ඊට නැත.
මීට අදාළව ප්‍රධාන අවදානම් මානයන් හතක් පවතින අතර, ඒ සෑම එකක්ම රාජ්‍ය නිලධාරියෙකුගේ මේසය මතට පැමිණේ. ඒ සෑම එකක්ම එහි තාක්ෂණික ස්වභාවය සහ රාජ්‍ය අංශයේ බලපෑම සමග පහත දක්වා ඇත්තේ, රාජ්‍ය සේවයේදී මෙහි විපාක විඳින්නට සිදුවන්නේ යන්ත්‍රයකට එරෙහිව අභියාචනා කිරීමට කිසිදු හැකියාවක් නැති සාමාන්‍ය පුරවැසියන්ට වන බැවිනි.
රූපය 8.1: උත්පාදක AI හි අවදානම් (Risks of Generative AI) — සාවද්‍ය තොරතුරු (Hallucination), පක්ෂග්‍රාහීත්වය (Bias), රහස්‍යභාවය (Privacy), නීතිමය වගවීම (Legal), අනිසි භාවිතය (Misuse), පමණ ඉක්මවා යැපීම (Over-reliance) සහ ටෝකන් පිරිවැය (Token Cost).
පළමු අවදානම: සාවද්‍ය තොරතුරු මවාපෑම (Risk one: hallucination)
තාක්ෂණිකව සිදුවන දේ. සන්දර්භීය හිඩැසක් හෝ සැබෑ අවිනිශ්චිතතාවක් හමු වූ විට, ආකෘතිය වාග්විද්‍යාත්මකව අතිශය අලංකාර එහෙත් භෞතිකව කිසිදා නොපවතින කරුණු නිපදවයි.
ප්‍රායෝගිකව සිදුවන පාඩුව. සැබෑ ලෝකයේ කොතැනකවත් නොමැති රාජ්‍ය පරිපාලන චක්‍රලේඛ අංක. මනඃකල්පිත ශ්‍රේෂ්ඨාධිකරණ නඩු තීන්දු. නිවැරදි ආකෘතියෙන් සහ නිල ලේඛන ස්වරූපයෙන් ඉදිරිපත් වන ගෙතූ ජනවිකාස සංඛ්‍යාලේඛන. අමාත්‍යාංශ ලේකම්වරයෙකු හෝ ප්‍රාදේශීය ලේකම්වරයෙකු එවැනි ලේඛනයකට අත්සන් තැබූ මොහොතේ, එම මනඃකල්පිත කරුණ නිල රාජ්‍ය ලේඛනයක බලය අත්පත් කරගනී — තවද එම දෝෂයේ වගවීම යන්ත්‍රයකට නොව නම සඳහන් මිනිසෙකුට සෘජුවම පැවරේ.
අන් සියල්ලටම වඩා ඉදිරියෙන් සිටින අවදානම මෙයයි, මන්ද එය කිසිවෙකුට නොදැනී නිහඬව පැමිණෙන බැවිනි. මෙම ලැයිස්තුවේ ඇති අනෙක් සෑම අංගයක්ම කවදා හෝ තම පැවැත්ම හෙළි කරයි. එහෙත් Hallucination එකක් බැලූ බැල්මට පෙනෙන්නේ නිරපේක්ෂ සත්‍යයක් ලෙසිනි.
දෙවන අවදානම: පක්ෂග්‍රාහීත්වය සහ සමාජ අසාධාරණත්වය (Risk two: bias and inequity)
තාක්ෂණිකව සිදුවන දේ. ආකෘතිය පුහුණු කිරීමට යොදාගත් ඓතිහාසික අන්තර්ජාල දත්තවල පවතින සමාජ, ආර්ථික, සංස්කෘතික සහ භාෂාමය අසමතුලිතතා ආකෘතියේ ප්‍රතිදානයන් කෙරෙහි සෘජුවම බලපායි. එය අතීත වාර්තාවලින් සාමාන්‍ය දේ කුමක්දැයි ඉගෙන ගත් අතර, අතීතය සාධාරණ එකක් නොවීය.
ප්‍රායෝගිකව සිදුවන පාඩුව. අස්වැසුම හෝ සමෘද්ධි වැනි ශ්‍රී ලංකාවේ ජාතික සුබසාධන ප්‍රතිලාභ තක්සේරු කිරීමේදී හෝ රාජ්‍ය සේවා බඳවාගැනීම් කෙටි ලැයිස්තුගත කිරීමේදී, ආන්තික ප්‍රජාවන්, කාන්තා ගෘහමූලික පවුල් සහ දුෂ්කර පළාත්වල ජනතාව ස්වයංක්‍රීයව සහ කිසිවෙකුට නොපෙනී අසාධාරණයට ලක්විය හැක. පද්ධතිය තුළ ඇඟිල්ල දිගු කළ හැකි කිසිදු වෙනස්කම් කිරීමේ උපදෙසක් නොමැති බැවින්, එවැනි වෙනස්කම් කිරීමට එරෙහිව අභියෝග කිරීම මිනිස් පක්ෂග්‍රාහීත්වයට අභියෝග කිරීමට වඩා අතිශය දුෂ්කර වේ.
යුරෝපා සංගමයේ AI පනත (EU AI Act - Regulation 2024/1689) මගින් රාජ්‍ය සුබසාධන සහ මහජන සේවා තීරණ "ඉහළ අවදානම් සහිත AI" (High-Risk AI) ලෙස වර්ගීකරණය කර ඇත්තේ මේ හේතුවෙනි — එය දිරිගැන්වීම් වෙනුවට නීතිමය බැඳීම් පනවන කාණ්ඩයකි. ජාත්‍යන්තර නීතිමය දිශානතිය පැහැදිලිය: පුරවැසියෙකු සඳහා තීරණයක ප්‍රතිවිපාකය බරපතල වන තරමට, එය ස්වයංක්‍රීය කරන ඕනෑම අයෙකු මත ඔප්පු කළ හැකි සාධාරණත්වයේ වගකීම ඉහළ යයි.
තෙවන අවදානම: රහස්‍යභාවය සහ දත්ත කාන්දු වීම (Risk three: confidentiality and privacy leakage)
තාක්ෂණිකව සිදුවන දේ. පොදු පාරිභෝගික AI මෙවලම් වෙත ඇතුළත් කරන දත්ත, ආකෘති සපයන සමාගම් විසින් රඳවාගෙන තම ඊළඟ පරම්පරාවේ ආකෘති පුහුණු කිරීම සඳහා භාවිත කළ හැක. ඔබ නොමිලේ ලැබෙන චැට් කවුළුවකට යමක් පිටපත් කර ඇතුළත් කළ විට, පොදු නීතියක් ලෙස එය ඔබේ ආයතනයෙන් පිටව ගොස් අවසන්ය.
ප්‍රායෝගිකව සිදුවන පාඩුව. පුරවැසියන්ගේ ජාතික හැඳුනුම්පත් අංක, ඉඩම් ඔප්පු විස්තර, වෛද්‍ය වාර්තා, අමාත්‍ය මණ්ඩල රහස්‍ය සංදේශ — තම රාජකාරිය ඉක්මනින් අවසන් කිරීමට උත්සාහ කරන යහපත් චේතනාවෙන් යුත් නිලධාරීන් විසින් විවෘත පද්ධතිවලට ඇතුළත් කරනු ලබයි. ශ්‍රී ලංකාවේ 2022 අංක 9 දරන පුද්ගලික දත්ත ආරක්ෂණ පනත (PDPA) යටතේ දත්ත පාලකයා ලෙස පුරවැසි දත්ත ආරක්ෂා කිරීම රජයේ නිරපේක්ෂ නීතිමය වගකීමක් වන අතර, එම අනාවරණය පහසු වීම හෝ නොදැනුවත්ව සිදුවීම නිසා එම වගකීම ලිහිල් නොවේ.
මෙහි ඇති ප්‍රායෝගික දුෂ්කරතාවය වන්නේ මෙම අවදානමට කිසිදු ප්‍රතිචාර ලූපයක් නොමැති වීමයි. රහස්‍ය දත්ත වැරදි කවුළුවකට ඇතුළත් කළ විට කිසිදු බාහිර අනතුරක් නොපෙනේ. නිලධාරියාගේ වැඩ පහසු වේ, අනතුරු ඇඟවීමක් නොපෙනේ, සහ එය පුරුද්දක් බවට පත්වේ — 07 වන පරිච්ඡේදයේ දැක්වූ පරිදි මෙය තනි පුද්ගල විනිශ්චයට නොතබා ප්‍රකාශිත ආයතනික නීතියක් බවට පත්කළ යුත්තේ එබැවිනි.
සිව්වන අවදානම: නීතිමය සහ නියාමන වගවීම (Risk four: legal and regulatory liability)
තාක්ෂණිකව සිදුවන දේ. මෙම මාතෘකාව යටතේ වෙනම ගැටලු දෙකක් පවතී: වාණිජමය හෝ බුද්ධිමය දේපළ අයිතිය සහිත ලේඛන අනවසරයෙන් ප්‍රතිනිෂ්පාදනය වීම, සහ AI මගින් ජනනය කරන ප්‍රතිදානයන් සඳහා සාමාන්‍යයෙන් කිසිදු ප්‍රකාශන හිමිකම් ආරක්ෂාවක් නොලැබීම.
ප්‍රායෝගිකව සිදුවන පාඩුව. ටෙන්ඩර් ලියකියවිලි, ප්‍රතිපත්ති පත්‍රිකා හෝ විෂයමාලා තුළ බුද්ධිමය දේපළ උල්ලංඝනය වීම. තවද පරිපාලකයින් දැඩි ලෙස අවධානය යොමු කළ යුතු වඩාත් සියුම් අවදානමක් ඇත: පරිපාලන නීතියට අනුව, රාජ්‍ය තීරණයක් නිශ්චිත මානව තාර්කික නිගමනයක් මත පදනම් විය යුතුය. "පද්ධතිය මගින් මෙය නිපදවීය" යන්නෙන් ඔබ්බට පැහැදිලි කළ නොහැකි තීරණයක්, එහි ප්‍රතිඵලය කෙතරම් ප්‍රයෝජනවත් වුවද අධිකරණය හමුවේ නීතිවිරෝධී විය හැක. තර්කනය යනු තීරණයක් මත ඇති සැරසිල්ලක් නොවේ. තීරණය වලංගු කරන කොටසක් වන්නේ එයයි.
පස්වන අවදානම: අනිසි භාවිතය සහ ව්‍යාජ නිර්මාණ (Risk five: misuse and deepfakes)
තාක්ෂණිකව සිදුවන දේ. බහුමාධ්‍ය මෙවලම්වලට කටහඬ අනුකරණය (Voice cloning), ගොතන ලද වීඩියෝ (Deepfakes), සහ ස්වයංක්‍රීය සමාජ ඉංජිනේරු ප්‍රහාර ඉතා වේගයෙන් හා නොසැලකිය යුතු පිරිවැයකින් සිදුකළ හැක.
ප්‍රායෝගිකව සිදුවන පාඩුව. දිස්ත්‍රික් ලේකම්වරයෙකුගේ හෝ අමාත්‍යාංශ ලේකම්වරයෙකුගේ කටහඬ ව්‍යාජ ලෙස සකසා මුදල් නිදහස් කිරීමට දුරකථනයෙන් උපදෙස් දීම. ව්‍යාජ නිල ලේඛන මිනිත්තු කිහිපයකින් නිපදවීම. එමෙන්ම තාක්ෂණික පැත්තෙන් ගත් කල, අපරාධකරුවන් විසින් MOSIP වැනි අනන්‍යතා රාමුවල හෝ ස්වයංක්‍රීය පරීක්ෂාවන්ට ඔරොත්තු දීමට සැලසුම් කර නැති පැරණි රාජ්‍ය වෙබ් ද්වාරවල ඇති කේත දුර්වලතා ස්වයංක්‍රීයව සොයාගෙන ප්‍රයෝජනයට ගැනීම.
මෙහි වෙනස් වී ඇත්තේ වංචාවේ පැවැත්ම නොව එහි ආර්ථිකයයි. ජ්‍යෙෂ්ඨ නිලධාරියෙකුගේ අනන්‍යතාවය සාර්ථකව අනුකරණය කිරීමට අතීතයේදී දක්ෂතාවය, සූදානම සහ නිර්භීතකම අවශ්‍ය විය. දැන් ඊට අවශ්‍ය වන්නේ කටහඬ සාම්පලයක් සහ දායකත්වයක් පමණි; එබැවින් ප්‍රහාරයේ දුෂ්කරතාවය මත පදනම් වූ ආරක්ෂක ක්‍රම තවදුරටත් වලංගු නොවේ. දුරකථනයේ හුරුපුරුදු කටහඬ අනන්‍යතාවය තහවුරු කිරීමක් ලෙස සලකන ක්‍රමවේද දැන් මුළුමනින්ම අභාවයට ගොස් ඇත.
හයවන අවදානම: පමණ ඉක්මවා යැපීම සහ මානව කුසලතා ගිලිහී යාම (Risk six: over-reliance and deskilling)
තාක්ෂණිකව සිදුවන දේ. ස්වයංක්‍රීයකරණයේ පහසුවට වශී වී, මිනිසා තම ගැඹුරු චින්තනය, විශ්ලේෂණය සහ විවේචනාත්මක විනිශ්චය නිහඬව මෙවලමට පවරා දීම.
ප්‍රායෝගිකව සිදුවන පාඩුව. සාක්කු කැල්කියුලේටරය පැමිණි පසු මනෝමයෙන් ගණනය කිරීමට සිදු වූ දෙය මීට නිදසුනකි. රාජ්‍ය නිලධාරියා සංකීර්ණ පනත් සහ චක්‍රලේඛ කියවීම නතර කර මුළුමනින්ම AI සාරාංශ මත යැපීමට පටන් ගනී; එම සාරාංශ සාමාන්‍යයෙන් නිවැරදි බැවින් එම පුරුද්ද තහවුරු වේ; යම් එකක් වැරදි වූ විට එය හඳුනාගැනීමේ හැකියාව නිහඬව අතුරුදහන් වේ. කාලයත් සමග, කිසිදු තනි පුද්ගලයෙකු එවැනි තීරණයක් නොගෙනම මුළු මහත් රාජ්‍ය සේවයේම බුද්ධිමය මට්ටම පහත වැටිය හැක.
මෙය මෙම ලැයිස්තුවේ ඇති වඩාත්ම මන්දගාමී සහ වඩාත්ම බරපතල අවදානමයි, මන්ද අනෙක් අවදානම් හයෙන් ආරක්ෂා කරන හැකියාවම එයින් ඉවත් කරන බැවිනි. චක්‍රලේඛ කියවීම නතර කළ නිලධාරියෙකුට ගොතන ලද චක්‍රලේඛ අංකයක් හඳුනාගත නොහැක. පළමු අවදානම සහ හයවන අවදානම එකිනෙක බැඳී පවතින අතර, එම සම්බන්ධය දිවෙන්නේ එක් දිශාවකට පමණි.
හත්වන අවදානම: පිරිවැය සහ ටෝකන් ආර්ථික විද්‍යාව (Risk seven: cost and token economics)
තාක්ෂණිකව සිදුවන දේ. වාණිජ මට්ටමේ API Inference අධික ලෙස ටෝකන් පරිභෝජනය කරන අතර, සන්දර්භ කවුළු හැඹිලිය (Context-window caching) සහ නියෝජිත ලූප (Agentic loops) මගින් නියමු ව්‍යාපෘතියකින් අනාවැකි කිව නොහැකි අයුරින් එම පරිභෝජනය ගුණනය කරයි.
ප්‍රායෝගිකව සිදුවන පාඩුව. නිසි පද්ධති නිර්මාණ සැලැස්මක් සහ අයවැය පාලනයක් නොමැතිව, රාජ්‍ය ආයතනයක් තමන්ට දරාගත නොහැකි මාසික මෙහෙයුම් වියදම් නිර්මාණය කර ගනී. රුපියල් දහස් ගණනක් වැය වන නියමු ව්‍යාපෘතියක් ලක්ෂ ගණනක් වැය වන සේවාවක් බවට පත්වන අතර, සේවාව භාවිතයට පැමිණ දේශපාලනිකව ඉවත් කරගත නොහැකි වන තෙක් වියදම් වක්‍රය දෘශ්‍යමාන නොවේ.
අලංකාර නොවන සත්‍යය නම්: ප්‍රශ්නය වන්නේ AI මගින් කාර්යය කළ හැකිද යන්න නොව, පූර්ණ පරිමාවේදී එක් ගනුදෙනුවකට එම කාර්යය සඳහා වැයවන පිරිවැය කුමක්ද යන්නයි. එම සංඛ්‍යාව අයත් විය යුත්තේ පළමු බිල්පතට නොව මුල් සැලසුමටය.
ඩෙලොයිට් (Deloitte) සමාගමේ ඩොලර් 440,000 ක වාර්තාවෙන් සිදු වූ සැබෑ හානිය කුමක්ද?
පළමු අවදානම පිළිබඳ පැහැදිලිම නිදසුන උපකල්පිත එකක් නොවන අතර, එය සිදු වූයේ අත්දැකීම් නැති ආයතනයකටද නොවේ. එය සිදු වූයේ ලොව විශාලතම වෘත්තීය සේවා සපයන සමාගමකටය.
රූපය 8.2: Deloitte's AI Fallout Explained — The $440,000 Report That Backfired (ඕස්ට්‍රේලියානු ෆෙඩරල් රජයට ඉදිරිපත් කළ නිල වාර්තාවට අත් වූ ඉරණම).
සැබවින්ම සිදු වූ දේ (What happened)
2025 අගභාගයේදී, ඩෙලොයිට් සමාගම විසින් ඕස්ට්‍රේලියානු රජයේ රැකීරක්ෂා සහ සේවාස්ථාන සබඳතා දෙපාර්තමේන්තුව වෙනුවෙන් ඕස්ට්‍රේලියානු ඩොලර් 440,000ක — ශ්‍රී ලංකා රුපියල් මිලියන 130කට අධික — ගිවිසුමක් යටතේ ප්‍රතිපත්ති පර්යේෂණ වාර්තාවක් සකස් කරන ලදී (Deloitte's AI Fallout Explained: The $440,000 Report That Backfired).
උපදේශක කණ්ඩායම සාහිත්‍ය විමර්ශනය සහ ආර්ථික දත්ත සාරාංශ කිරීම සඳහා උත්පාදක AI භාවිත කළේය — එය සාධාරණ යෙදුමක් වන අතර තාක්ෂණය සැබවින්ම හොඳින් ඉටු කරන කාර්යයකි. අනතුරුව වාර්තාව ඕස්ට්‍රේලියානු පාර්ලිමේන්තුවේ සෙනෙට් කමිටුව වෙත ළඟා වූ අතර, සමාලෝචකයින් කළ යුතු දේ කමිටුව සිදු කළේය: එනම් උපුටා දැක්වීම් පරීක්ෂා කිරීමයි.
වාර්තාවේ උපුටා දක්වා තිබූ අධ්‍යයන පත්‍රිකා, කතුවරුන්ගේ නම් සහ ආයතනික සමීක්ෂණ වාර්තා බොහොමයක් සම්පූර්ණයෙන්ම සාවද්‍ය ලෙස මවාපෑ (Hallucinated) — කිසිදු තැනක පළ නොවූ මනඃකල්පිත මූලාශ්‍ර බව හෙළි විය. උපුටා දැක්වූ මූලාශ්‍ර සැබවින්ම පවතින්නේදැයි එම සමාගමේ ජ්‍යෙෂ්ඨ උපදේශකයින් කිසිවෙකුත් පරීක්ෂා කර තිබුණේ නැත. ඩෙලොයිට් සමාගමට තම ගාස්තුවෙන් කොටසක් ආපසු ගෙවීමටත් පාර්ලිමේන්තුව හමුවේ ප්‍රසිද්ධියේ සමාව අයැදීමටත් සිදු වූ අතර, ඕස්ට්‍රේලියානු රජය පසුව සියලුම අනාගත රාජ්‍ය උපදේශන ගිවිසුම් තුළට දැඩි AI භාවිත සහ මානව වගවීමේ වගන්ති නීතිගත කළේය.
හුදෙක් සටහන් කරගන්නවාට වඩා මෙම සිදුවීම ගැඹුරින් අධ්‍යයනය කළ යුත්තේ ඇයි (Why this case is worth studying rather than merely noting)
මෙහි කරුණු තුනක් කෙරෙහි විශේෂ අවධානය යොමු කළ යුතුය:
අසාර්ථකත්වය තිබුණේ මෙවලම තුළ නොව සමාලෝචනය තුළයි. 03 වන පරිච්ඡේදයේ විස්තර කළ දේම ආකෘතිය සිදු කළේය: එය පිළිගත හැකි උපුටා දැක්වීම් නිපදවීය, මන්ද ශාස්ත්‍රීය සාහිත්‍ය විමර්ශනයක ප්‍රකාශයක් පිටුපස සංඛ්‍යානමය වශයෙන් ගලා එන්නේ පිළිගත හැකි උපුටා දැක්වීමකි. උපුටා දැක්වූ පත්‍රිකාවක් පවතින්නේදැයි පරීක්ෂා කිරීම කිසිදු විශේෂඥ දැනුමක් අවශ්‍ය නොවන විනාඩි දෙකක කාර්යයකි. එහෙත් කිසිවෙකු එය සිදු කළේ නැත.
සමාලෝචකයින් පරාජය කළේ භාෂාවේ චතුර බවයි. මොවුන් තම ක්ෂේත්‍රයේ ලේඛනයක් කියවූ දක්ෂ, ඉහළ වැටුප් ලබන ජ්‍යෙෂ්ඨ වෘත්තිකයෝ වූහ. ගොතන ලද මූලාශ්‍ර වැරදි ලෙස නොපෙනුණේ හොඳ ආකෘතියකින් නිපදවන ව්‍යාජ මූලාශ්‍ර කිසිවිටෙකත් වැරදි ලෙස නොපෙනෙන බැවිනි — නිවැරදි කතෘ සම්ප්‍රදායන්, පිළිගත හැකි සඟරා, සාධාරණ මාතෘකා, ගැළපෙන දිනයන්. දුර්වල මූලාශ්‍රයක් හඳුනාගැනීමට පුහුණු පාඨකයෙකු භාවිත කරන සියලු සංඥා එහි පැවති අතර ඒ සියල්ල නිෂ්පාදනය කරන ලද ඒවා විය.
නියාමන ප්‍රතිචාරය ක්ෂණික සහ ස්ථිර විය. එක් සිදුවීමක් මගින් සියලු අනාගත සැපයුම්කරුවන් සඳහා ගිවිසුම්ගත බැඳීම් නිර්මාණය කළේය. ලොව සෑම තැනකම දිශානතිය මෙයයි: ප්‍රසිද්ධ AI අසාර්ථකත්වයක පිරිවැය සෑම කෙනෙකු මතම පනවන නීතියක් ලෙස ක්‍රියාත්මක වන අතර, එයින් අදහස් වන්නේ ඔබේ ආයතනය වැරදි කළත් නැතත් අනුකූලතා බර ඔබ වෙත පැමිණෙන බවයි.
Important
ශ්‍රී ලංකාවේ අප සැමට ලැබෙන පාඩම:
AI ඔබේ වාර්තාව කෙතරම් විද්‍යාත්මක හා බලධාරී ඉංග්‍රීසියෙන් ලියා දුන්නද, ඔබ ඊට අත්සන තැබූ මොහොතේ සිට සෑම වචනයකම සම්පූර්ණ වගකීම ඔබ සතුය. "AI වැරැද්දක් කළා" යන්න විභාග මණ්ඩලයක්, සේවායෝජකයෙකු, රාජ්‍ය සේවා කොමිෂන් සභාව හෝ අධිකරණයක් හමුවේ වලංගු නිදහසට කරුණක් නොවේ.
මිනිසා පාලනය රඳවා ගන්නා එකම පවුර කියවීම වන්නේ ඇයි?
මෙතෙක් සාකච්ඡා කළ සෑම ආරක්ෂණ ක්‍රමවේදයක්ම — සීමාවන්, ප්‍රතිසාධනය, සත්‍යාපන ස්ථර — අවසානයේ රඳා පවතින්නේ එක් මානව ක්‍රියාවක් මතය. යමක් වැරදි බව හඳුනාගැනීමේ හැකියාව ඇති මිනිසෙකු විසින් එය කියවිය යුතුය.
රූපය 8.3: In the Age of Generative AI, Reading Is What Keeps the Human in the Loop — කියවීම යනු හුදු නිෂ්ක්‍රීය ක්‍රියාවක් නොව බුද්ධිය පාලනය කරන මානව අතුරුමුහුණතයි (සමිස අබේසිංහ).
මෙම විෂය පිළිබඳ පළ වූ ඉඩසර ලිපියක මූලික සංජානන මූලධර්මය මෙසේ දක්වා ඇත:
"යන්ත්‍රවලට තත්පර කිහිපයකින් පිටු සිය ගණනක් ලිවිය හැක. ලිවීමේ වේගය මත්වන සුළුය. එහෙත් මෙම ස්වයංක්‍රීය මැවීම් හමුවේ අපගේ බුද්ධිමය යටත්වීම වළක්වන එකම පවුර වන්නේ ගැඹුරු, විමසිලිමත් සහ විචක්ෂණශීලී කියවීමයි (Deep, Deliberate, and Discerning Reading). ඔබ කියවීම නතර කළ දිනයේදී ඔබ යන්ත්‍රයේ සේවකයෙකු බවට පත්වේ."
එම වාක්‍යය පෙන්වා දෙන අසමමිතිය මෙම තාක්ෂණයේ පාලක සත්‍යයයි. ලිවීම ඵලදායී ලෙස නොමිලේ සහ ක්ෂණික බවට පත්ව ඇත; එහෙත් සත්‍යාපනය කිරීම කිසිසේත් වේගවත් වී නැත. පුද්ගලයෙකු තවමත් කියවන්නේ සාමාන්‍ය පරිදි විනාඩියකට වචන සිය ගණනක වේගයෙනි. එබැවින් ආයතනයකට නිපදවිය හැකි සත්‍යාපනය නොකළ තොරතුරු ප්‍රමාණය, එයට සැබවින්ම පරීක්ෂා කළ හැකි ප්‍රමාණයට වඩා විශාල ලෙස ඉක්මවා යන අතර, එම අනුපාත දෙක අතර ඇති හිඩැස දෝෂයන් වාර්තාවලට ඇතුළු වන ස්ථානයයි.
උඩින් පල්ලෙන් බැලීම (Skimming) කියවීම නොවේ
අසාර්ථකත්වය යනු කියවීම ප්‍රතික්ෂේප කිරීම නොවේ. එය උත්සාහයක් සේ පෙනෙන නමුත් එසේ නොවන කියවීමේ විශේෂ ආකාරයකි: AI ලියූ පිටු දහයක වාර්තාවක් දෙස බලා, භාෂාව විශිෂ්ට බව තහවුරු කරගෙන, අත්සන් තැබීමයි. ඩෙලොයිට් සමාගම ගමන් කළ මාවත එය වූ අතර, කාල පීඩනය යටතේ සිටින දක්ෂ පුද්ගලයෙකුගේ සාමාන්‍ය හැසිරීමද එයමය.
ගැඹුරු විචක්ෂණශීලී කියවීමට සැබවින්ම ඇතුළත් වන කරුණු
සැබෑ සත්‍යාපනය හුදු උඩින් බැලීමෙන් වෙන්කර හඳුනාගන්නා පරීක්ෂාවන් තුනක් ඇති අතර, ඒ සෑම එකක්ම සාමාන්‍ය ආකල්පයකට වඩා නිශ්චිත ප්‍රශ්නයකි:
තාර්කික හෝඩුවාව (A logical trace). A සහ B යන මූලික කරුණු මගින් C යන නිගමනය සැබවින්ම තහවුරු කරන්නේද, නැතහොත් ආකෘතිය ඒ අතර නොපවතින පාලමක් ගොඩනගා ඇත්ද? ගලායන භාෂාව මගින් බිඳුණු තර්කනයන් ඉතා හොඳින් සඟවයි, මන්ද සම්බන්ධක වචන — එබැවින්, එහි ප්‍රතිඵලයක් ලෙස, ඒ අනුව — කිසිවක් තහවුරු වුවත් නැතත් එකම විශ්වාසයෙන් ජනනය වන බැවිනි.
සීමාවලට අනුකූල වීම (Constraint compliance). ඔබේ ප්‍රොම්ප්ට් එකේ තිබූ සෘණාත්මක සීමාවන්ට සහ නීතිමය කොන්දේසිවලට ආකෘතිය සම්පූර්ණයෙන්ම කීකරු වී තිබේද? අර්ධ අනුකූලතාව සාමාන්‍ය දෙයක් වන අතර පහසුවෙන් මඟහැරේ: ඔබේ කොන්දේසි දහයෙන් නවයකට ගරු කර දසවැන්න නිහඬව අතහැර දැමිය හැක. ඔබ පැනවූ සීමාවන් එකින් එක පරීක්ෂා කරන්න, මන්ද ඒවා මොනවාදැයි දන්නා එකම පුද්ගලයා ඔබ පමණි.
සංවේදී ගැලපීම (Empathetic alignment). ලේඛනයේ භාෂාව පුරවැසියාගේ සැබෑ වේදනාවට සහ රාජ්‍ය සේවයේ ගෞරවයට පරිපාලනමය විචක්ෂණභාවයෙන් ගැළපේද? මෙය කිසිදු ආකෘතියකට කළ නොහැකි විනිශ්චයකි, මන්ද ලේඛනය කියවන්නේ කවුරුන්ද යන්න සහ එය ලැබුණු විට කෙබඳු හැඟීමක් ඇතිවේද යන්න දැනගැනීම ඊට අවශ්‍ය වේ. තාක්ෂණික වශයෙන් දෝෂ රහිත එහෙත් යැවීමට මුළුමනින්ම නුසුදුසු ලේඛනයක් හඳුනාගැනීමට වැඩිම ඉඩක් ඇත්තේ මෙම පරීක්ෂාවෙනි.
AI පක්ෂග්‍රාහීත්වය (Bias) යනු කුමක්ද, එය වළක්වා ගන්නේ කෙසේද?
දෙවන අවදානම පළමුවැන්නට වඩා වෙනස් ආකාරයකින් ක්‍රියාත්මක වන බැවින් වෙනම සැලකිල්ලක් ලැබිය යුතුය. Hallucination මගින් ඔබට හසුකරගත හැකි වැරදි පිළිතුරක් ලබා දෙයි. පක්ෂග්‍රාහීත්වය මගින් මධ්‍යස්ථ ලෙස පෙනෙන, විශ්වාසනීය ස්වරූපයෙන් ලැබෙන, සහ පවතින සමාජ අගතිය නැවත නිෂ්පාදනය කරන ස්ථාවර පිළිතුරක් ලබා දෙයි — තවද එම ස්ථාවරත්වය නිසාම එය දැකීම අතිශය දුෂ්කර වේ.
රූපය 8.4: Understanding & Preventing AI Bias — පක්ෂග්‍රාහීත්වයට බලපාන හේතු 3 (ඓතිහාසික අගති, ඇල්ගොරිතමික විශාලනය, මානව සැලසුම් පක්ෂග්‍රාහීත්වය) සහ වැළැක්වීමේ පියවර 3.
රූපය 8.5: The Data Law — පටු දත්ත මගින් පක්ෂග්‍රාහී ප්‍රතිදාන නිපදවන අතර, විවිධාංගීකරණය කළ දත්ත සාධාරණ ආකෘතියක් බිහි කරයි.
AI පක්ෂග්‍රාහීත්වය යනු කුමක්ද (What AI bias is)
ආකෘතියක් විසින් යම් සමාජ කණ්ඩායමකට, ජාතියකට, ස්ත්‍රී-පුරුෂ භාවයකට හෝ ප්‍රදේශයකට අගතියක් වන අයුරින් ක්‍රමානුකූලව අසමාන තීරණ ජනනය කිරීමයි.
රූපයේ දැක්වෙන නිදසුන සම්මත නිරූපණය වන අතර එහි ශක්තිය ඇත්තේ පාලනය තුළය: එක හා සමාන සුදුසුකම් සහිතව, "Sarah Chen" නම් කාන්තා අයදුම්කාරිය ප්‍රතික්ෂේප වන අතර "David Smith" නම් පිරිමි අයදුම්කරු තෝරාගනු ලැබේ. නම හැර ලිපිගොනු දෙක අතර වෙනස් කිසිවක් නැත. පද්ධතියේ කිසිදු රීතියක ස්ත්‍රී-පුරුෂ භාවය ගැන සඳහන් නොවේ.
මෙම අවදානම ආයතනිකව භයානක වන්නේ එබැවිනි. පක්ෂග්‍රාහී මිනිස් තීරණයකදී තර්ක කිරීමට පක්ෂග්‍රාහී මිනිසෙකු ඉතිරි වේ. පක්ෂග්‍රාහී ආකෘති තීරණයකදී සෑම කෙනෙකුටම එක හා සමානව නිපදවන ලද, වාස්තවිකත්වයක් සේ පෙනෙන අංකයක් ඉතිරි වේ — එම වාස්තවිකත්වයේ පෙනුම නිසාම ඊට එරෙහිව අභියාචනා කිරීම අතිශය දුෂ්කර වේ.
එය සිදුවන්නේ ඇයි (Why it happens)
පුහුණු දත්තවල ඇති ඓතිහාසික අගතිය. ඊයේ පැවති ස්ත්‍රී පුරුෂ වැටුප් පරතරයන් සහ සමාජ අසමානතා රැගත් වාර්තා මත පුහුණු වූ ආකෘතියක් එම රටාවන් නීත්‍යානුකූල නිත්‍යභාවයන් ලෙස ඉගෙන ගනී. එය සාධාරණත්වය ගැන තර්ක කරන්නේ නැත; එය තමන්ට ලබා දුන් වාර්තාවේ සංඛ්‍යානමය වශයෙන් සාමාන්‍ය වූ දේ නැවත ප්‍රතිනිෂ්පාදනය කරයි. වාර්තාව යනු ඉතිහාසයේ විස්තරයක් වන අතර ඉතිහාසය අසමාන එකක් විය.
ඇල්ගොරිතමික විශාලනය. මිනිසුන් මවිතයට පත් කරන කොටස මෙයයි. දත්තවල ඇති සුළු ඇලවීමක් ආකෘතිය හරහා වෙනස් නොවී ගමන් කරන්නේ නැත — සංඛ්‍යානමය ප්‍රශස්තකරණය එය තියුණු කරයි. ඓතිහාසික සිදුවීම්වලින් සියයට හැටක තිබූ ප්‍රවණතාවක් ආකෘතියේ ප්‍රතිදානය තුළ නිරපේක්ෂ රීතියක් ලෙස මතුවිය හැක, මන්ද පුහුණු ක්‍රියාවලිය විශ්වාසනීය රටා අනුගමනය කිරීම අගය කරන බැවිනි. පක්ෂග්‍රාහීත්වය මෘදුව ඇතුළු වී දරුණු ලෙස පිටතට පැමිණේ.
සැලසුමේ පවතින මානව සංජානන පක්ෂග්‍රාහීත්වය. මෙම පද්ධති ගොඩනගන ඉංජිනේරුවන් තමන්ගේම උපකල්පන අනුව විශේෂාංග තෝරාගෙන සාර්ථකත්වය නිර්වචනය කරන අතර, මැනිය නොහැකි සාධාරණත්වයට වඩා මැනිය හැකි ලාභය ඉදිරියෙන් තැබීමට වාණිජ පීඩනය නිරන්තරයෙන් කටයුතු කරයි. මෙය සිදුවීමට කිසිවෙකු නරක චේතනාවෙන් ක්‍රියා කළ යුතු නැත. අපහසු ප්‍රශ්නය අසන කිසිවෙකු කණ්ඩායම තුළ නොසිටීම පමණක් ඊට ප්‍රමාණවත් වේ.
එය වළක්වා ගන්නේ කෙසේද (How to prevent it)
දත්ත විවිධාංගීකරණය සහ විගණනය. භාවිතයට පෙර ඔබේ ආයතනයේ දත්ත කට්ටල විගණනය කරන්න, සහ පද්ධතිය තීරණ ගන්නා සෑම සමාජ කොටසක්ම ඒවා තුළ සැබවින්ම නියෝජනය වන බව තහවුරු කරන්න. පටු දත්ත මගින් පක්ෂග්‍රාහී ප්‍රතිදාන ලැබෙන්නේ අවාසනාව නිසා නොව ගණිතමය සත්‍යයක් වශයෙනි; ඉහළින් මිනිසුන් බැහැර කළ දත්ත කට්ටලයක් පහළින් කෙතරම් සැලකිලිමත් වුවද නිවැරදි කළ නොහැක.
ඇල්ගොරිතමය නිරන්තරයෙන් විගණනය කිරීම. ආරම්භයේදී එක් වරක් පමණක් සහතික කරනවා වෙනුවට, ආකෘතියේ තීරණ සාධාරණත්ව මෙට්‍රික්ස් සමග අඛණ්ඩව පරීක්ෂා කරන්න. යෙදවුම් වෙනස් වන විට හැසිරීම වෙනස් වන අතර, පසුගිය වසරේ අයදුම්කරුවන්ගේ සංචිතය මත සාධාරණ වූ පද්ධතියක් මෙම වසරේදී ස්වයංක්‍රීයව සාධාරණ නොවේ.
විවිධාංගීකරණය වූ කණ්ඩායම් ගොඩනැගීම. විවිධ සමාජ පසුබිම්, ක්ෂේත්‍ර සහ සංවේදීතා සහිත වෘත්තිකයන්ගෙන් තාක්ෂණික කණ්ඩායම් එකලස් කරන්න. මෙය ලැයිස්තුවේ ඇති අවම තාක්ෂණික පිළියම වන අතර බොහෝ විට වඩාත්ම ඵලදායී වේ, මන්ද බොහෝ පක්ෂග්‍රාහීත්වයන් නිෂ්පාදනයට ළඟා වන්නේ ඒවා අනුමත වූ නිසා නොව, එහි සිටි කිසිවෙකු එය හඳුනා නොගත් බැවිනි. ගැටලුව හඳුනාගන්නේ සාමාන්‍යයෙන් එයින් පීඩාවට පත්වන පුද්ගලයාය.
AI සාවද්‍ය තොරතුරු (Hallucinations) ඇතිවන්නේ ඇයි, ඒවා වළක්වන්නේ කෙසේද?
Hallucination යනු එක් හේතුවක් සහිත තනි අසාර්ථකත්වයක් නොවේ. ඊට පැහැදිලි මූලයන් තුනක් ඇති අතර, ඒ සෑම එකකටම පිළියම වෙනස් වේ — වැරදි පිළියම යෙදීමෙන් ගැටලුව එලෙසම ඉතිරි වන බැවින් මෙය වැදගත් වේ.
රූපය 8.6: Understanding & Preventing AI Hallucinations — සාවද්‍ය තොරතුරු නිර්මාණය වීමට බලපාන හේතු 3 (Garbage In, Garbage Out / Model Limitations / Confusing Prompts) සහ ඒවා වැළැක්වීමේ පිළියම් 3.
| දෝෂයේ මූලය | තාක්ෂණික පසුබිම | රාජ්‍ය සේවයේ සැබෑ අවදානම | ඉංජිනේරුමය පිළියම |
|---|---|---|---|
| Garbage In, Garbage Out | අඩු ගුණාත්මක, පක්ෂග්‍රාහී හෝ යල්පැන ගිය පුහුණු දත්ත. | 1985 ඉඩම් චක්‍රලේඛයක් මත පදනම්ව, 2024 ගැසට් පත්‍රය නොසලකා වන්දි ගණනය කිරීම. | උසස් දත්ත සහ RAG: ආකෘතියේ විවෘත මතකය වෙනුවට යාවත්කාලීන නිල ලේඛන පමණක් භාවිත කිරීම. |
| ආකෘතියේ සීමාවන් (Model Limitations) | රටා වැරදියට අර්ථකථනය කර සම්භාවිතාව මත අනුමාන කිරීම ("සියලු පලතුරු රතු ය!" කියා සිතා කොළ ඇපල් ප්‍රතික්ෂේප කිරීම). | නීතිමය පූර්වාදර්ශ 10ක් ඉල්ලූ විට සැබෑ විනිසුරුවරුන්ගේ නම් සමග ව්‍යාජ නඩු අංක ඒකාබද්ධ කර පෙන්වීම. | මානව සත්‍යාපනය (Human-in-the-Loop): සෑම නිල ලේඛනයක්ම නිකුත් කිරීමට පෙර නිලධාරියෙකු විසින් මූලික ලේඛනය හා සැසඳීම. |
| නොපැහැදිලි ප්‍රොම්ප්ට් (Confusing Prompts) | සීමාවන්, භූමිකාව සහ සන්දර්භය නොමැතිව සාමාන්‍ය වචනවලින් විමසීම ("අර සිද්ධිය ගැන කියන්න?"). | සහන ආධාර මුදලක් ගැන විමසූ විට නිශ්චිත චක්‍රලේඛ නොබලා මනඃකල්පිත මුදලක් ආකෘතිය විසින් නිර්දේශ කිරීම. | පැහැදිලි සීමා පැනවීම (Clear Constraints): භූමිකාව, සන්දර්භය සහ "නොදන්නේ නම් 'නොදනී' යැයි කියන්න" යන සෘණාත්මක සීමා පැනවීම. |
වගුව සමස්තයක් ලෙස කියවීමෙන් ප්‍රයෝජනවත් නිගමනයකට එළඹිය හැක. පළමු පේළිය දත්ත පිළිබඳ ගැටලුවක් වන අතර ආකෘතියේ මතකය විශ්වාස කරනවා වෙනුවට නිල ලේඛනය සැපයීමෙන් එය විසඳේ. තුන්වන පේළිය ප්‍රොම්ප්ට් පිළිබඳ ගැටලුවක් වන අතර කිසිදු පිරිවැයකින් තොරව Enter එබීමට පෙර ඔබ විසින්ම එය විසඳනු ලැබේ. තාක්ෂණයේ සැබෑ සීමාව වන්නේ දෙවැන්න පමණි — තවද ඊට පිළියම තාක්ෂණික එකක් නොවේ. එය නිමැවුම මූලාශ්‍රය සමග සසඳන මිනිසෙකි.
දෙවන පේළිය විස්තර කරන දේ පිළිබඳවද සැලකිලිමත් වන්න, මන්ද වෘත්තීය භාවිතයේදී වඩාත්ම රැවටිලිකාර අසාර්ථක මාදිලිය එයයි: ගොතන ලද නඩු අංකවලට සැබෑ විනිසුරුවරුන්ගේ නම් ඇමිණීම. එය පැහැදිලිවම පෙනෙන මනඃකල්පිත පිළිතුරක් නොව, තනි උපුටා දැක්වීමක් තුළ සත්‍ය සහ අසත්‍ය කොටස්වල මිශ්‍රණයකි. විනිසුරුගේ නම හඳුනාගන්නා සමාලෝචකයාට හුරුපුරුදු බව පිළිබඳ සහතිකයක් දැනෙන අතර පරීක්ෂා කිරීම නතර කරයි. සත්‍යාපනය නඩු අංකය දක්වාම ළඟා විය යුතුය.
සත්‍යාපන වැඩ ප්‍රවාහයක් (Verification Workflow) ප්‍රායෝගිකව ක්‍රියාත්මක වන්නේ කෙසේද?
රූපය 8.7: Three-Tier Human-in-the-Loop Verification Pipeline — බහු-මාදිලි මෙහෙයුම්, සීමා පැනවීම සහ පරිපාලනමය වගවීම.
ඉහත මූලධර්ම ක්‍රියාත්මක වන්නේ නැවත නැවත කළ හැකි අනුක්‍රමයක් ලෙස පමණි. නිෂ්පාදන මට්ටමේ කාර්යයන්හිදී ඔරොත්තු දෙන සිව්-ස්ථර නල මාර්ගය පහත දැක්වෙන අතර, එහි තර්කනය වන්නේ එක් එක් ස්ථරය ඊළඟ ස්ථරයට කළ නොහැකි කාර්යයක් ඉටු කිරීමයි.
පළමු ස්ථරය — සජීවී මූලාශ්‍රවලට එරෙහිව සත්‍ය කරුණු තහවුරු කිරීම. Google Search AI Mode වැනි උපුටා දැක්වීම් සහිත වත්මන් තොරතුරු ලබාගන්නා සෙවුම් මෙවලමකින් ආරම්භ කර සත්‍යාපිත ස්ථාවරය එක්රැස් කරන්න: නවතම ගැසට් පත්‍ර, නිල වෙබ් දත්ත, සහ විවෘත කළ හැකි සබැඳි. කරුණු ක්‍රියාවලියට ඇතුළු වන්නේ මෙම අදියරේදී පමණි. මෙම නල මාර්ගයේ පසු කිසිදු අදියරකට නව කරුණක් හඳුන්වා දීමට අවසර නැත.
දෙවන ස්ථරය — සන්දර්භය ගොඩනැගීම සහ උපදෙස් සැලසුම් කිරීම. එම සත්‍යාපිත සාරාංශය Gemini වැනි ප්‍රබල දේශීය භාෂා හැකියාවක් ඇති ආකෘතියකට ගෙන ගොස්, ශ්‍රී ලංකා සන්දර්භය සහ සිංහල භාෂා නිරවද්‍යතාවයෙන් එය පුළුල් කරන්න. අනතුරුව අවසාන ලේඛනය වෙනුවට ඊළඟ මෙවලම ලිවීමට එම ආකෘතිය භාවිත කරන්න: "මෙම සත්‍යාපිත කරුණු මත පදනම්ව, මෙම නීතිමය ලේඛනය කෙටුම්පත් කිරීම සඳහා Claude ආකෘතියට ලබා දිය යුතු සෘණාත්මක සීමාවන් සහිත ප්‍රශස්ත ප්‍රොම්ප්ට් එක ලියන්න." එක් ආකෘතියක් ලවා තවත් ආකෘතියක් සඳහා ප්‍රොම්ප්ට් එක සැලසුම් කරවීම වක්‍ර එකක් සේ පෙනුණද එය ඉතා ප්‍රායෝගිකය. ප්‍රොම්ප්ට් ගොඩනැගීම ආකෘති ඉතා හොඳින් කරන කාර්යයක් වන අතර, එය සීමාවන් උපකල්පනය කරනවා වෙනුවට පැහැදිලිව සඳහන් කිරීමට බලකරයි.
තුන්වන ස්ථරය — සැලසුම් කළ ප්‍රොම්ප්ට් එක සමග කෙටුම්පත් කිරීම. අවසාන විශ්ලේෂණය සහ ව්‍යුහගත කෙටුම්පත සඳහා එම ප්‍රොම්ප්ට් එක Claude වැනි ගැඹුරු තාර්කික ව්‍යුහයකට සුදුසු ආකෘතියකට රැගෙන යන්න. මෙම අවස්ථාව වන විට ආකෘතිය ක්‍රියාත්මක වන්නේ දැනටමත් සත්‍යාපනය කළ කරුණු සහ දැනටමත් නිශ්චිතව දක්වා ඇති සීමාවන් මත බැවින්, සාවද්‍ය තොරතුරු ගෙතීමේ අවස්ථාව බොහෝ දුරට ඉවත් වේ.
හතරවන ස්ථරය — මානව පාලනය සහ අත්සන. අවසාන වශයෙන්, ලේඛනය පේළියෙන් පේළිය කියවා, පළමු ස්ථරයේ මූලාශ්‍රවලට එරෙහිව එහි නිරවද්‍යතාවය තහවුරු කර, අත්සන් තබන්න.
මෙම නල මාර්ගය පිළිබඳව කරුණු දෙකක් සැලකිල්ලට ගත යුතුය. පළමුව, එය විවිධ ආකෘති සවිඥානිකව භාවිත කරයි — තමන්ගේම කාර්යය පරීක්ෂා කරන ආකෘතියක් තමන්ගේම නොපෙනෙන අඩුපාඩු බෙදාගන්නා අතර, විවිධ පුහුණු දත්ත සහිත දෙවන පද්ධතියක් එසේ නොවේ. දෙවනුව, සහ වඩාත්ම වැදගත් වන්නේ, අවසාන ස්ථරය තාක්ෂණික ක්‍රියාවලියකට එක් කළ හුදු විධිමත්භාවයක් නොවේ. වගවීම දරන එකම ස්ථරය එය වන අතර, ඊට පෙර ඇති තුන පවතින්නේ අවසානයේ කියවීම හැකිතාක් විශ්වාසදායක කිරීම සඳහාය. නිවැරදිව ක්‍රියාත්මක කළ විට, මෙම ස්ථරගත ක්‍රමය මගින් Hallucination කාන්දු වීම සම්පූර්ණයෙන්ම පාහේ වළක්වයි — එහෙත් එහි සැබෑ කාර්යක්ෂමතාවය රඳා පවතින්නේ හතරවන ස්ථරය තුළය.
සෙවනැලි AI (Shadow AI) යනු කුමක්ද, AI තහනම් කිරීමෙන් එය වඩාත් නරක අතට හැරෙන්නේ ඇයි?
ආයතනික ප්‍රතිපත්ති බොහෝ විට සත්‍යයක් නොවන ලෙස ලියැවෙන බැවින් එක් යථාර්ථයකට අවංකව මුහුණ දිය යුතුය: රාජ්‍ය නිලධාරීන් දැනටමත් නිල ලිපිගොනු තම පෞද්ගලික දුරකථනවල ඇති නොමිලේ ලැබෙන ChatGPT වෙත යවමින් සිටිති.
එය කරන්නේ නරක චේතනාවකින් නොවේ. ලිපිගොනු බර දරාගත නොහැකි තරම් වන අතර මෙවලමෙන් සැබවින්ම පිහිටක් ලැබේ. විභාග වෙමින් පවතින ලිපිගොනු හැටක් සහ තම දුරකථනයේ නොමිලේ මෙවලමක් සමග රෑ බෝ වන තුරු වැඩ කරන නිලධාරියා නොසැලකිලිමත් වන්නේ නැත; ඔවුන් තමන්ට ඇති එකම මාධ්‍යයෙන් ඵලදායී වීමට උත්සාහ කරයි.
තහනම් කිරීමෙන් එය නතර කළ නොහැක. සැබෑ ඵලදායිතා වාසියක් ලබා දුන් සෑම තාක්ෂණයකදීම ඔප්පු වී ඇති වැදගත්ම සොයාගැනීම මෙයයි. ආයතනයක් AI තහනම් කළ විට, භාවිතය නතර නොවේ — එය ඇසට නොපෙනෙන තැනකට මාරු වේ. තහනම මගින් සැබවින්ම ඉවත් කරන්නේ පුරුද්ද නොව ආයතනයට ඒ පිළිබඳව ඇති දෘශ්‍යතාවයයි; ඒ සමගම මගපෙන්වීම, පුහුණුව හෝ ආරක්ෂණ ක්‍රමවේද සැපයීමේ අවස්ථාවද අහිමි වේ. එහි ප්‍රතිඵලය විය හැකි නරකම තත්ත්වයයි: කිසිදු නීතියක් නැතිව, කිසිදු වාර්තාවක් නැතිව, සහ කුමක් නිරාවරණය වී ඇත්දැයි කිසිවෙකුට පැවසිය නොහැකිව එම දත්තම ආයතනයෙන් පිටතට යයි.
ඒ වෙනුවට අනුමත ආයතනික මාවතක් සලසන්න. එක් ආරක්ෂිත මෙවලමක් අනුමත කරන්න — ශුන්‍ය දත්ත රඳවා ගැනීමේ (Zero Data Retention) ප්‍රතිපත්තියක් සහිත ආයතනික මට්ටමක් — සහ ඇතුළත් කළ හැකි සහ නොහැකි දත්ත මොනවාද යන්න පිළිබඳ පැහැදිලි, නිශ්චිත ලැයිස්තුවක් ප්‍රකාශයට පත් කරන්න. මෙහිදී දැඩි බවට වඩා නිශ්චිත බව වැදගත් වේ. "සංවේදී දත්ත ගැන සැලකිලිමත් වන්න" යනු කිසිවෙකුට අනුගමනය කළ හැකි නීතියක් නොවේ; "ජාතික හැඳුනුම්පත් අංක, වෛද්‍ය වාර්තා හෝ ඔප්පු විස්තර කිසිවිටෙකත් ඇතුළත් නොකරන්න" යනු පැහැදිලි නීතියකි.
හෙළිදරව් කිරීම සුරක්ෂිත කරන්න. "මම මෙම පළමු කෙටුම්පත සකස් කළේ AI ආධාරයෙන්; ඉන්පසු මා එය පරීක්ෂා කර නිවැරදි කළෙමි" යැයි විවෘතව පවසන සේවකයෙකුට කිසිවිටෙකත් දඬුවම් නොකළ යුතුය. හෙළිදරව් කිරීමට දඬුවම් කිරීමෙන් AI භාවිතය අඩු නොවේ; එය හෙළිදරව් කිරීම අඩු කරන අතර, සත්‍යාපනය සැබවින්ම අවශ්‍ය වන්නේ කොතැනදැයි ආයතනයකට දැනගත හැකි එකම ක්‍රමය වන්නේ විවෘතව හෙළිදරව් කිරීමයි.
සැබෑ අවදානම සරලව ප්‍රකාශ කළහොත්. එය මිනිසුන් AI භාවිත කිරීම නොවේ. එය ආයතනික පාලනයකින්, රෙගුලාසියකින් හෝ මානව සත්‍යාපනයකින් තොරව රහසින් දත්ත පිටතට යාමයි — තවද එසේ කරන නිලධාරීන්ට උදව් ඉල්ලීමට කිසිදු ක්‍රමයක් නොමැති වීමයි.
මීළඟ පරිච්ඡේදයේදී, මෙම අවදානම් කළමනාකරණය කරමින් පුරවැසි සේවාවන් ඉහළ නැංවීම සඳහා වන අවුකන පිළිම නිර්මාණයේ ආදර්ශය (බරණැස්ත මූලධර්මය), ජපන් මුහුණු තුන සහ කළුතර ප්‍රාදේශීය ලේකම් කාර්යාලයේ සංවේදී අත්දැකීම, AI Agents සහ අනාගත පද්ධති පිළිබඳව ගැඹුරින් සාකච්ඡා කරමු.