Хиймэл оюунаар бүтээсэн хуурамч контентуудыг ялгахын аргагүй болно
Риши Сунак нь Британийн Ерөнхий сайд. Гэхдээ Facebook-ийн зарим сурталчилгаанд итгэх юм бол тэрбээр хурдан баяжих нэгэн схемийг дэмжиж байгаа бололтой. Нэг тийм сурталчилгаанаас үзвэл Илон Маскийн хөгжүүлсэн апп руу тогтмол “хуримтлал” хийхийг Р.Сунак зөвлөж буй. Энэ мэдээж хуурамч видео бөгөөд хиймэл оюуны тусламжтайгаар үүсгэсэн өөр 143 сурталчилгааны зөвхөн нэг нь гэдгийг Британийн Fenimore Harper Communications фирмийн өнгөрсөн арванхоёр, нэгдүгээр сард хийсэн бүртгэл харуулжээ. Зөвхөн олон нийтийн танил, алдартнуудын дүр төрхийг ашиглан зальдахаас гадна мөнгө нэхэж, дарамтлахын тулд энгийн хүмүүсийн хуурамч секс видео, зураг хийж эхэлснийг 2023 оны зургадугаар сард АНУ-ын Холбооны мөрдөх товчоо анхааруулж байв. 2023 оны арванхоёрдугаар сард Нью-Орлеанд болсон хиймэл оюуны салбарын хамгийн том бага хурлын нэг Neurips-т оролцсон судлаачдын хэлэлцсэн хамгийн гол асуудлын нэг нь ийм хуурамч бичлэг, зургийг хэрхэн таньж зогсооход төвлөрсөн юм. Стартапаас эхлээд Intel, Microsoft зэрэг том компани ч машинаар үүсгэсэн мэдээллийг таних программууд санал болгодог. Харин хиймэл оюуны том моделиудыг бүтээгч нар жинхэнэ зураг, видео, текстийг машинаар үүсгэснээс нь ялгахын тулд өөрсдийн хийсэн зүйлээ “тамгалах” арга замуудыг хайж байна. Гэвч эдгээр технологи бодит байдал дээр үр дүнгээ өгөхгүй байна. Neurips-ийн оролцогчдын дунд Economist-ийн явуулсан албан бус санал асуулгаас үзэхэд ихэнх нь хиймэл оюунаар бүтээсэн зүйлийг ялгаж таних боломжгүй болно гэж хариулсан байна.
Хиймэл бүтээлийг таних программ нь хиймэл оюуны моделиуд ул мөрөө үлдээдэг гэсэн ойлголт дээр үндэслэж ажилладаг. Тодруулбал, бодит зураг, видеоны зарим хэсгийг дахин бүтээхдээ алдаа гаргадаг, эсвэл хэтийдсэн ямар нэг зүйл нэмдэг учраас танигч программ үүнийг нь олж анзаарах юм.
Эхэндээ хүмүүс үүнийг олж анзаардаг байв. Жишээлбэл, 2023 оны дунд хүртэл дүрс үүсгэгч хиймэл оюуны алгоритмууд нь хүмүүсийн гарыг эв хавгүй дүрслэх, цагны нүүрэн дээрх тоог буруу харуулах зэргээр алдаа гаргадаг байсан бол өдгөө шилдэг программууд нь ийм алдаа гаргахаа больжээ. Өөрөөр хэлбэл, хиймэл оюуны бүтээсэн хуурмаг зүйлсийг жирийн хүн ялгаж танихад хэцүү болж эхэлсэн. Гэхдээ скан зурагнаас хорт хавдрын эсийг ялгаж танихын тулд машинуудыг сургаж эхэлсэн шиг бодит зураг, хиймэл зургийн ялгааг таниулахаар сургаж болох юм. Харамсалтай нь тийм чадвар хиймэл оюунд сайн сууж эхлээгүй байна. Танигч программууд нь хуурамч зүйлийг хүн бүтээсэн, эсвэл хүний бүтээлийг хиймэл оюун бүтээсэн гэх зэргээр алдаатай танисаар байна. Shanghai Jiao Tong их сургуулийн компьютерийн шинжлэх ухааны эрдэмтэн Зеюү Люгийн судалгаанаас үзвэл хамгийн сайн танигч программууд нь хиймлээр үүсгэсэн зургуудыг 13 хувийн оновчтой таньж байжээ. Харин текстийн хувьд байдал хамаагүй дээр. 2023 оны арванхоёрдугаар сард International Journal of Educational Integrity сэтгүүл нийт 14 программыг харьцуулахад аль нь ч 80-аас дээш хувийн оновчтой ажиллаагүй байна. Хэрэв компьютерээр үүсгэсэн гэдгийг нь танихад хэтэрхий адармаатай баримт материал байгаа бол түүнийг таних өөр нэг арга нь урьдчилаад дижитал “тамга”-аар тэмдэглэх юм. Цаасан хэвлэл, гэрэл зураг дээр “тамга” дардагтай адилаар тухайн текст, зургийн чанарыг алдагдуулахгүй боловч хүмүүст илт харагдах ямар нэг ялгах зүйлийг нэмэх нь уг аргын гол утга учир юм.
“Тамгалах” зарим арга нь өнгийг өөрчлөх зэргээр пикселүүдтэй ажилладаг. Пикселийн ийм ялгааг хүн олж анзаарах ямар ч боломжгүй боловч компьютер хялбархан таньж чадна. Гэхдээ зургийг танаж, эргүүлж, бүдэгрүүлсний дараа дахин тодруулахад ийм “тамга” алга болох эрсдэлтэй. Харин хэсэг судлаач “гурван бөгж” нэртэй тамгалах аргыг Neurips дээр танилцуулсан нь илүү ахисан түвшнийх болж чадсан байна. Зураг үүсгэдэг хамгийн дэвшилтэт төрлийн diffusion загварууд нь эхлээд дижитал зотон даавуугаа янз бүрийн пикселээр дүүргээд түүнээс нь зургаа аажмаар гаргах аргыг ашигладаг. “Гурван бөгж” арга нь эцсийн бүтээгдэхүүн буюу зураг дээр бус харин эхэлж зурж байх үеийн пиксел дээр “тамга”-аа үлдээдэг байна. Хамгийн гол нь эл арга нь нэгэнт үүссэн зургийг өөрчилдөг бусад аргатай харьцуулбал хийхэд илүү хялбар юм. Гэхдээ дайны хажуугаар дажин болж байна. “Тамга” бүтээгчид нь уг аргыг устгах арга хөгжүүлж буй судлаачидтай ширүүн тэмцэл өрнүүлж буй. Харвардын их сургуулийн Ханлин Жан, Бенжамин Эгелман, Боаз Барак нарын судлаач тамгыг хялбархан арилгах аргыг бий болгосон байна. Уг арга нь зураг дээр шинэ пиксел нэмээд, хоёр дахь буюу арай өөр хиймэл оюун нь уг пикселийг арилгахдаа эх “тамга”-ыг давхар арилгадаг аж. Энэ мэт бэрхшээлийг давах аргуудыг Засгийн газрууд хайсаар байна. Тухайлбал, АНУ-ын Засгийн газар “тамга” тавих судалгаанд зориулах хөрөнгө оруулалтаа нэмэх “сайн дурын амлалт”-ыг OpenAI, Google зэрэг хиймэл оюун хөгжүүлэгч хэд хэдэн компаниас 2023 оны долдугаар сард авчээ. Төгс биш хамгаалалттай байх нь огт хамгаалалтгүй байснаас дээр боловч гэмт хэрэгтэн, илрүүлэгчдийн хоорондын дайнд зальтнууд хамаагүй давуу талтай байгаа нь тодорхой байна.
Экономист сэтгүүлийн 2024 оны нэгдүгээр сарын 20-ны дугаараас
