Францын эрх баригчид өнөөдрөөс эхлэн Францын Нийгмийн хамгааллын агентлагийн Үндэсний гэр бүлийн тэтгэмжийн сан (CNAF)-гийн ашиглаж буй ялгаварлан гадуурхагч эрсдэл тооцоолох алгоритмыг нэн даруй зогсоох ёстой гэж Эмнести Интернэшнл мэдэгдэв. Уг алгоритм нь тэтгэмжийн төлбөртэй холбоотой илүүдэл болон алдааг илрүүлэх зорилгоор ашиглагддаг.

2023 оны 10-р сарын 15-нд Эмнести Интернэшнл болон Ла Квадратюр Дю Нет (LQDN) байгууллагаар удирдуулсан 14 түнш байгууллага Францын дээд захиргааны шүүх болох Төрийн зөвлөлд өргөдөл гаргаж, CNAF-ийн ашиглаж буй эрсдэл тооцоолох системийг зогсоохыг шаардсан.

“CNAF (Үндэсний гэр бүлийн тэтгэмжийн сан) -ийн ашиглаж буй эрсдэл тооцоолох систем нь анхнаасаа л хөгжлийн бэрхшээлтэй иргэд, ихэвчлэн эмэгтэйчүүдээс бүрдсэн ганц бие эцэг, эхчүүд, ядуу орчинд амьдарч буй хүмүүс гэх мэт зах хязгаарт орших иргэдийг сэжиглэх байдлаар ажиллаж байна. Энэ систем нь хүний эрхийн хэм хэмжээг зөрчиж, тэгш эрх, ялгаварлан гадуурхагдахгүй байх эрх болон хувийн нууцыг хамгаалах эрхийг зөрчиж байгаа юм” гэж Эмнести Интернэшнлийн Ерөнхий нарийн бичгийн дарга Агнес Калламард хэллээ.

2023 онд Ла Квадратюр Дю Нет байгууллага тус алгоритмын эх код буюу программ хангамжийн зохиогчдын бичсэн зааврын хувилбаруудыг олж авч, системийн ялгаварлан гадуурхагч шинж чанарыг ил болгожээ.

CNAF (Үндэсний гэр бүлийн тэтгэмжийн сан) нь 2010 оноос хойш энэхүү эрсдэл тооцоолох алгоритмыг ашиглан, хэт их тэтгэмж авсан буюу хууль бус тэтгэмж авсан байж болзошгүй хүмүүсийг илрүүлж ирсэн. Уг алгоритм нь гэр бүл, орон сууцны тэтгэмж авдаг бүх хүмүүст 0-ээс 1-ийн хооронд эрсдэлийн оноо өгдөг. Оноо 1-д ойр байх тусам шалгалтад өртөх магадлал өндөр болдог.

Францын хэмжээнд нийтдээ 32 сая хүн CNAF (Үндэсний гэр бүлийн тэтгэмжийн сан) -аас олгогддог тэтгэмжийн хүрээнд хамрагддаг бөгөөд тэдний болон тэдний гэр бүлийн эмзэг хувийн мэдээлэл тогтмол боловсруулагдаж, эрсдэлийн оноо оноогддог. Эрсдэлийн оноог өсгөдөг шалгуур үзүүлэлтүүд нь ядуу өрхүүдэд ялгавартай хандах нөхцөл байдлыг үүсгэдэг бөгөөд. Үүнд: бага орлоготой байх, ажилгүй байх, таагүй хөршид амьдрах, орлогынхоо ихэнх хувийг түрээсийн төлбөрт зарцуулах, хөгжлийн бэрхшээлтэй үед ажил хийх гэх мэт үзүүлэлтүүд багтдаг. Эрсдэлийн оноо өндөр гарсан хүмүүсийн мэдээллийг цуглуулж, дараагийн шатны шалгалт хийхээр хяналт шалгалтын ажилтанд шилжүүлдэг байна.

“Эрх баригчид нийгмийн хамгааллын системд алгоритмын технологийг ашиглах нь үр ашгийг нэмэгдүүлж, залилан болон алдааг илрүүлэх боломжийг нэмэгдүүлнэ гэж магтдаг ч бодит байдал дээр эдгээр систем нь хүмүүсийн амьдралын бодит байдлыг үл тоомсорлож байна. Эдгээр систем нь их хэмжээний өгөгдлийг цуглуулж, зах хязгаарт буй бүлгүүдийг гутаан доромжилж, хувийн орон зайд халддаг хэрэгслүүд болж хувирчээ” гэж Агнес Калламард хэллээ.

Эмнести Интернэшнл CNAF(Үндэсний гэр бүлийн тэтгэмжийн сан) -ийн системд эрсдэл өндөр гэж тэмдэглэгдсэн хүмүүсийн тодорхой жишээг судлаагүй. Гэвч Нидерланд болон Серби улсад хийсэн судалгаануудын үр дүнгээс үзэхэд, төрийн байгууллагууд хиймэл оюун ухаан болон автоматжуулалтын системийг ашиглах нь өргөн хүрээний хяналтыг бий болгож байгаа нь харагдсан. Эдгээр систем нь зорилгодоо нийцэхгүйгээр хэт их өгөгдөл цуглуулдаг бөгөөд залилан, алдааг илрүүлэх зэрэг эхний зорилтоо ч хангалттай биелүүлж чаддаггүйг нотолсон байна.

Эрх баригчид нийгмийн хамгааллын системд алгоритмын технологийг нэвтрүүлэхийг үр ашиг нэмэгдүүлэх, залилан болон алдааг илрүүлэх арга хэмээн магтан сурталчилж байгаа боловч эдгээр систем нь бодит амьдралыг нэг талт болгон гуйвуулах хандлагатай байна. Тэдгээр нь өгөгдөл олборлолтын томоохон хэрэгсэл болж, зах хязгаарлагдмал бүлгүүдийг гутаан доромжилж, хувийн орон зайд халддаг.

— Агнес Калламард, Эмнести Интернэшнлийн Ерөнхий нарийн бичгийн дарга.

Мөн тэтгэмжийн систем дэх залилан болон алдааны хэмжээг хэт дөвийлгөн харуулж, ийм технологиудыг хөгжүүлэхийг зөвтгөж буй нь ялгаварлан гадуурхах, тэр дундаа цагаачид болон дүрвэгчдийг арьс өнгө, хүйсээр нь ялгаварлан чиглүүлэх үндэс суурь болж байна гэж үздэг.

Сүүлийн нэг жилийн хугацаанд Франц улс хиймэл оюун ухааны (AI) дараагийн томоохон төв болохоор олон улсад өөрийгөө идэвхтэй сурталчилж байгаа бөгөөд энэ нь 2025 оны 2- р сард болох дээд хэмжээний уулзалтаар тодорхойлогдоно. Гэвч үүний зэрэгцээ Франц улс олон нийтийн өргөн хүрээний хяналтын технологийг хуульчилж, Европын AI-ийн тухай хуулийн хэлэлцээрийг тасралтгүй саатуулж ирсэн.

“Франц улс нийгмийн хамгааллын салбарт эрсдэл тооцоолох алгоритмын системд тулгуурлан ажиллаж байгаа нь төрийн байгууллагын ялгаварлан гадуурхах хандлага, хэвшмэл ойлголтыг дэвэргэж, баталгаажуулж байна. Үүний оронд Франц улс тэгш бус байдлыг арилгах, хүний эрхийг дээдлэх үүргээ биелүүлэхэд анхаарах ёстой. Дэлхий дахинд хиймэл оюун ухааны төв болохоор хичээж буй энэ үед эрх баригчид хиймэл оюун ухаан ашигласантай холбоотой хохирлуудыг хүлээн зөвшөөрч, тэдгээрийг шийдвэрлэх шаардлагатай” гэж Агнес Калламард хэлжээ.

Европын шинэчлэгдсэн хиймэл оюун ухааны зохицуулалт (AI Act)-ын дагуу төрийн байгууллагуудын ашигладаг, хүн амын зайлшгүй шаардлагатай үйлчилгээ, тэтгэмжид хандах боломжийг тодорхойлох AI системүүд нь хүний эрх, эрүүл мэнд, аюулгүй байдалд өндөр эрсдэл учруулдаг гэж үздэг. Иймд эдгээр систем нь техникийн, ил тод байдлын болон засаглалын хатуу дүрмүүдийг хангах ёстой бөгөөд ашиглалт эхлэхээс өмнө хүний эрхэд учруулж болзошгүй эрсдэлийг үнэлэх, урьдчилан сэргийлэх арга хэмжээ авах үүрэгтэй.

Үүний зэрэгцээ, нийгмийн оноо тогтоох зэрэг зарим системийг хүлээн зөвшөөршгүй эрсдэлтэй гэж үздэг тул хориглох ёстой.

Ерөнхий Хорооны хууль тогтоогчид AI-ийн тухай хуульд нийгмийн оноо тогтоох системийн талаар тодорхой тайлбар оруулаагүй нь харамсалтай хэрэг. Европын Комисс ойрын хугацаанд гаргах удирдамждаа нийгмийн оноо тогтоох системийг хориглох заалтыг тодорхой, хэрэгжүүлэхэд боломжтой байдлаар тайлбарлаж, ялангуяа ялгаварлан гадуурхсан байдлаар залилан илрүүлэх болон эрсдэл тооцоолох системд хэрхэн хамаарахыг тодорхойлох ёстой.

— Агнес Калламард, Эмнести Интернэшнлийн Ерөнхий нарийн бичгийн дарга

Одоогоор CNAF-ийн ашиглаж буй системийг нийгмийн оноо тогтоох системд хамаарах эсэх нь тодорхойгүй байна. Учир нь AI-ийн тухай хуульд ийм төрлийн системийн тодорхойлолт хангалттай нарийвчлалтай заагаагүй байна.

“ЕХ-ны хууль тогтоогчид AI-ийн тухай хуульд нийгмийн оноо тогтоох системийн талаар тодорхой тайлбар оруулаагүй нь харамсалтай хэрэг. Европын Комисс ойрын хугацаанд гаргах удирдамждаа нийгмийн оноо тогтоох системийг хориглох заалтыг тодорхой, хэрэгжүүлэхэд боломжтой байдлаар тайлбарлаж, ялангуяа ялгаварлан гадуурхсан байдлаар залилан илрүүлэх болон эрсдэл тооцоолох системд хэрхэн хамаарахыг тодорхойлох ёстой” гэж Агнес Калламард хэллээ.

AI-ийн тухай хуульд ямар ангилалд багтах нь тодорхойгүй ч CNAF (Үндэсний гэр бүлийн тэтгэмжийн сан) -ийн систем ялгаварлан гадуурхагч шинжтэй гэдгийг бүх нотлох баримт харуулж байна. Эрх баригчид уг системийг ашиглахаа даруй зогсоож, нийгмийн тэтгэмж хүсэж буй зах хязгаарлагдмал бүлгүүдэд хор хөнөөл учруулж буй, ялгаварлан гадуурхсан үйл ажиллагааг нарийвчлан шалгах нь нэн чухал юм.

Түүхэн мэдээлэл:

Европын Комисс 2025 оны 2-р сарын 2-нд хүчин төгөлдөр болох AI-ийн тухай хуулийн хориглосон заалтуудыг хэрхэн тайлбарлах удирдамжийг боловсруулж байгаа бөгөөд үүнд: нийгмийн оноо тогтоох системд юу хамаарах талаар тодорхойлолт оруулах юм.

2024 оны 8-р сард AI-ийн тухай хууль хүчин төгөлдөр болсон. Эмнести Интернэшнл Европын Дижитал Эрхийн Сүлжээ (EDRi)-ээр удирдуулсан иргэний нийгмийн эвслийн нэг хэсэг болон Европын хиймэл оюун ухааны зохицуулалтыг хүний эрхийг хамгаалж, хөхүүлэн дэмжих чиглэлд ажиллахыг уриалсаар ирсэн.

2024 оны 3-р сард Эмнести Интернэшнл хиймэл оюун ухаан, автоматжуулалт, алгоритмын шийдвэр гаргалт зэрэг дижитал технологиуд дэлхийн нийгмийн хамгааллын системд тэгш бус байдлыг хэрхэн гүнзгийрүүлж байгааг тайлбарласан товч тайланг нийтэлсэн.

2021 онд Эмнести Интернэшнлийн “Үзэн ядагч машинууд” (Xnephobic machines) тайланд Нидерландын татварын албаны ашиглаж байсан алгоритмын системд арьс өнгөөр ялгаварлан гадуурхах шинж чанар хэрхэн суурилсан байсныг илчилжээ. Энэхүү систем нь хүүхдийн асаргааны тэтгэмжид гаргасан өргөдлүүдийг залилангийн сэжигтэй хэмээн тэмдэглэхэд чиглэсэн байв.