Хиймэл оюун ашигласан технологийг асар ихээр хөгжүүлж байгаа энэ цаг үед тэдгээрийн үүсгэж болзошгүй эрсдэл, сорилтуудыг авч үзэх нь улам чухал боллоо.
Ажлын байр булаах, аюулгүй байдал, хувь хүний нууцлалд нөлөөлөх зэрэг цөөнгүй боловч ноцтой аюулыг хиймэл оюун бий болгож магадгүй учраас эрсдэл, сорилтод нь анхаарах замаар хиймэл оюунтай холбоотой хууль эрх зүй, ёс суртахуун, нийгмийн нөлөөний талаар нухацтай ярилцах боломжтой болно.
Ингээд хүн төрөлхтөнд хиймэл оюуны учруулж болзошгүй хамгийн ноцтой 15 эрсдэлийг танилцуулъя.
- Ил тод байдал дутмаг
Хиймэл оюуны системүүд, ялангуяа цогц, тайлбарлахад хэцүү гүн сургалтын моделиудын талаарх ил тод байдал дутмаг байдаг нь санаа зовох гол асуудал юм. Эл нууцлагдмал байдал нь шийдвэр гаргах процесс болон эдгээр технологийн цаад логикийг тодорхой бус болгодог.
Тухайн хиймэл оюуны систем хэрхэн дүгнэлтээ гаргасныг хүмүүс ойлгохгүй бол үл итгэл төрөх, улмаар уг технологийг ашиглахаас татгалзахад хүргэж болзошгүй.
2. Өрөөсгөл ойлголт болон ялгаварлал
Хиймэл оюуны системүүд нь өрөөсгөл, хэт нэг талыг барьсан өгөгдөл, алгоритмын дизайнаасаа шалтгаалж нийгэмд буруу зөрүү ойлголтыг улам түгээн дэлгэрүүлэх, нэмэгдүүлэх боломжтой. Иймэрхүү ялгаварлалыг бууруулж, шударга бөгөөд тэгш байдлыг баталгаажуулахын тулд өрөөсгөл бус алгоритм хөгжүүлэх, сургалтын ялгаатай өгөгдөл бүхий багцуудад хөрөнгө оруулах нь чухал.
3. Нууцлал
Хиймэл оюуны технологи нь хувь хүний асар их өгөгдлийг цуглуулж, анализ хийдэг учраас өгөгдлийн нууцлал, аюулгүй байдалтай холбоотой асуудал сөхөгдөх нь гарцаагүй юм. Эл эрсдэлээс сэргийлэхийн тулд өгөгдөл хамгаалахтай холбоотой дүрэм журмыг улам чангатгах, өгөгдөл хадгалах, ашиглах аргуудыг боловсронгуй болгох шаардлагатай.
4. Ёс суртахууны ээдрээ
Үр дагавар нь өргөн цар хүрээг хамарсан шийдвэр гаргалттай ажилладаг хиймэл оюуны системд ёс суртахуун, ёс зүйн үнэ цэнийг суулгах нь өнөөг хүртэл адармаатай сорилт хэвээр байна. Нийгэмд, хүмүүст сөрөг нөлөө үзүүлэхээс нь сэргийлэхийн тулд судлаач, хөгжүүлэгч нар хиймэл оюуны системд ёс суртахууны ойлголтыг оруулахад анхаарах хэрэгтэй.
5. Аюулгүй байдал
Хиймэл оюун улам төгс төгөлдөр болохын хэрээр тэдгээрийг ашиглахтай холбоотой аюулгүй байдлын эрсдэл, буруугаар ашиглах боломж нэмэгдсээр байна. Хакер, хорон санаатнууд нь илүү боловсронгуй кибер халдлага зохион байгуулах, хамгаалалтын системд баригдахгүй байхын тулд хиймэл оюуныг ашиглах бүрэн боломжтой.
Хиймэл оюун ашигладаг бие даасан удирдлагатай зэвсгийн тоо нэмэгдэж буй нь тэдгээрийг босогчид, тэрслүү этгээдүүд ашиглах эрсдэлийг нэмэгдүүлж байна. Эдгээр эрсдэлийг бууруулахын тулд Засгийн газар, судалгааны байгууллагууд нь хиймэл оюуныг хөгжүүлэх аюулгүй орчин, нөхцөлийг бий болгох, ашиглах мөн хиймэл оюунтай холбоотой дайны аюулаас сэргийлэхийн тулд олон улсын хамтын ажиллагааг сайжруулж, дүрэм журмыг нийтээр дагаж мөрддөг байх ёстой.
6. Эрх мэдлийн төвлөрөл
Хиймэл оюун хөгжүүлэлтэд цөөн тооны том компани, улс давамгайлбал тэгш бус байдлыг дэвэргэж, хиймэл оюуны хэрэглээг хязгаарлана. Хиймэл оюуныг төвлөрсөн бус, хамтарсан байдлаар хөгжүүлэх нь эрх мэдлийн төвлөрлөөс сэргийлэхэд нэн чухал билээ.
7. Хэт хамаарал
Хиймэл оюунд хэт найдах аваас бүтээлч байдал, шүүмжит сэтгэлгээ, хүний зөн совин буурах эрсдэлтэй. Хиймэл оюуны тусламжтай шийдвэр гаргалт болон хүний оролцоо хоёрын хооронд зохистой тэнцвэрийг барих нь бидний сэтгэн бодох ур чадварыг хадгалахад нэн чухал болно.
8. Ажлын байр алдах
Хиймэл оюуны улмаас автоматжуулалт эрчимжиж байгаа тул маш олон салбарынхан, тэр дундаа ур чадвар бага шаарддаг ажил хийдэг хүмүүс ажлын байраа алдах бодит эрсдэл үүсээд байна. Гэхдээ хиймэл оюун болон үүнтэй холбоотой бусад шин технологи нь устгаснаасаа олон ажлын байр бий болгоно гэсэн таамаг бий.
Хиймэл оюуны технологи улам бүр хөгжиж, бүтээмж өндөртэй болж байгаа учир ажилтнууд ч үүнд дасан зохицож, өөрчлөгдөн буй шинэ орчинд үнэ цэнээ хадгалахын тулд шинэ ур чадварт суралцах хэрэгтэй болж байна.
9. Санхүүгийн тэгш бус байдал
Зөвхөн чинээлэг иргэд, компаниудад ач тусаа өгөх замаар хиймэл оюун нь санхүүгийн тэгш бус байдлыг улам бүр гааруулах боломжтой. Өмнө өгүүлсэнчлэн хиймэл оюунаас шалтгаалсан автоматжуулалт нь ур чадвар бага шаардсан ажил эрхэлдэг хүмүүст голдуу нөлөөлөх учир орлогын ялгаа улам нэмэгдэх, нийгэмд хөлөө олох олон хүний боломж буурах эрсдэлтэй.
Хиймэл оюун хөгжүүлэлт болон өмчлөл нь цөөн хэдэн том компани, улсуудад төвлөрснөөр тэд эрх мэдэл, эд баялгаа үлэмж хэмжээгээр өсгөж, харин жижиг бизнесүүд өрсөлдөөнд тэсэж үлдэх бараг боломжгүй болох учир тэгш бус байдал өсөн нэмэгдэнэ. Программыг дахин өөрчлөх, нийгмийн халамжийн арга хэмжээ авах, хиймэл оюун хөгжүүлэлтэд бүх талын оролцоог хангах зэрэг эдийн засгийн тэгш байдлыг дэмжсэн бодлого, санаачилгыг хэрэгжүүлснээр боломжийг илүү тэнцвэртэй түгээх, улмаар санхүүгийн тэгш бус байдлыг арилгах боломжтой.
10. Хууль эрх зүйн сорилт
Хариуцлага, оюуны өмчийн эрх зэрэг хиймэл оюунтай холбоотой үүсэж буй асуудлуудыг шийдэх хууль эрхзүйн шинэ орчин, зохицуулалтыг бий болгох нь нэн чухал. Технологийн хөгжилтэй хөл нийлүүлэн алхах, хүн бүрийн эрхийг хамгаалахын тулд хуулийн салбар мөн хөгжих ёстой.
11. Хиймэл оюунаар хэт хөөцөлдөх
Улс орнууд хиймэл оюун хөгжүүлэлтээр өрсөлдөж, хэт хөөцөлдсөнөөр тун их хор уршиг тарьж мэдэх хиймэл оюуны технологийг асар хурдан хөгжүүлэхэд хүргэж болзошгүй.
Саяхан Apple-ийг хамтран үүсгэн байгуулагч Стив Возняк тэргүүтэй технологийн салбарын манлайлагч, судлаачид хиймэл оюун хөгжүүлэлтийг түр хугацаанд завсарлахыг уриалсан. Тэдний гаргасан уриалгад хиймэл оюун нь “улс орнууд, хүн төрөлхтөнд ноцтой эрсдэл учруулж” буйг дурдсан билээ.
Тэд уг уриалгадаа “Хиймэл оюунтай хамт хүн төрөлхтөн хөгжин цэцэглэсэн ирээдүйг бий болгож чадна. Бид хиймэл оюуны хүчирхэг системүүдийг хөгжүүлснээр үр шимийг нь бүгд хүртсэн, бүхний ач тусын төлөө тэдгээр системийг инженерчилсэн , улсуудад дасан зохицох боломжийг өгсөн “хиймэл оюуны зун”-ыг үзэх боломжтой” гэж өгүүлсэн юм.
12. Хүмүүнлэг харилцаа үгүй болох
Хиймэл оюунд тулгуурласан харилцаанд найдах нь ихсэх юм бол хүн хоорондын харилцаа, нинжин сэтгэл, харилцааны ур чадвар буурч магадгүй. Хүн нийгмийн амьтан учир энэхүү шинж чанараа хадгалж үлдэхийн тулд технологи болон хүний харилцааны хооронд зөв тэнцвэрийг олох нь чухал.
13. Худал мэдээлэл, манипуляц
Хиймэл оюуны үүсгэсэн deepfake зэрэг контент нь худал мэдээлэл тараах, олон нийтийн санаа бодлыг манипуляц хийхэд нөлөөлдөг. Ийм худал мэдээллийг олж тогтоох, устгах нь өнөөгийн дижитал эринд мэдээллийн үнэн зөв байдлыг хадгалахад ихээхэн ач холбогдолтой юм.
Хиймэл оюуны хамгийн ноцтой эрсдэлийн талаарх Стэнфордын их сургуулийн судалгаанд ийн дурджээ:
“Интернэтэд хуурмаг мэдээлэл тараахын тулд хиймэл оюуныг ашиглаж буй нь ардчилалд аюул, фашизмд ашиг болж магадгүй юм. Хуурамч зөвшилцөл үүсгэх, худал мэдээлэл тараах замаар олон нийтийн санаа бодолд манипуляц хийдэг Deepfake видео, онлайн ботууд нь нийгмийн итгэлцэлд аюул учруулна. Уг технологийг гэмт хэрэгтнүүд, тэрслүү улс, экстремистүүд, эсвэл тусгай ашиг сонирхолтой бүлгүүд ашиглаж санхүүгийн ашиг, улс төрийн давуу тал олж авах боломжтой”.
14. Урьдчилан тооцох боломжгүй үр дагавар
Хэтэрхий адармаатай, хүний хяналт бага байдгаас шалтгаалж хиймэл оюуны системүүд нь санаандгүй зан авир, урьдчилан таамаглах боломжгүй шийдвэр гаргах магадлалтай. Энэхүү тааварлашгүй байдал нь хувь хүн, аж ахуйн нэгж, нийгэмд бүхлээр нь сөргөөр нөлөөлөх үр дүнг авчирч болзошгүй.
Шалгалт, баталгаажуулалт, хяналтын процесс нь хөгжүүлэгч, судлаач нарт иймэрхүү асуудлыг даамжрахаас нь өмнө мэдэх боломжийг олгох юм.
15. Тэсэж үлдэх эрсдэл
Хүний ухаанаас хол давсан хиймэл ерөнхий оюуныг (artificial general intelligence буюу AGI) хөгжүүлж байгаа нь хүн төрөлхтний санаа зовних асуудал юм. Хүний үнэ цэн, зорилготой нийцэхгүй эдгээр хиймэл оюуны системийн улмаас AGI хөгжүүлэлт нь санамсаргүй, тун аюултай үр дагавар авчирч магадгүй юм.
Дээр дурдсан эрсдэлүүдийг хаахын тулд эрдэмтэд аюулгүй байдлыг хангах судалгаа хийх, ёс суртахууны дагаж мөрдөх журмыг гаргах, AGI хөгжүүлэлтийг ил тод болгоход идэвхтэй оролцох ёстой. AGI нь хүн төрөлхтний ашиг сонирхол, сайн сайхны төлөө үйлчилдэг, оршин тогтнохуйд нь аюул учруулахгүй байх нь асар чухал юм.
Forbes.com. Бернард Марр.
