ChatGPT зэрэг чатботын амин зүрх болсон технологийг бүтээхийн төлөө Жеоффри Хинтон хагас зууны турш зүтгэсэн. Харин тэрхүү технологи нь өдгөө ноцтой аюул тарина хэмээн санаа зовниж байна.
Ж.Хинтон бол хиймэл оюуныг анхлан бүтээгч юм. Технологийн том компаниуд ирээдүйгээ гэж үзэх болсон хиймэл оюуны системийн суурь болсон технологийг тэрбээр 2012 онд Торонтогийн их сургуулийн хоёр магистрын хамт бүтээжээ.
Гэвч ChatGPT зэрэг алдартай чатботуудыг ажиллуулдаг үүсгэгч хиймэл оюунд (generative artificial intelligence) суурилсан бүтээгдэхүүн бүтээх зорилгоор эдгээр компани түрэмгий кампанит ажил өрнүүлж буй нь гай дуудсан явдал гэж шүүмжлэгсдийн эгнээнд тэрбээр энэ сарын 1-нд албан ёсоор нэгдэв.
Хиймэл оюуны салбарын хамгийн нэр хүндтэй дуу хоолойны нэг болсон доктор Ж.Хинтон 10 гаруй жил ажилласан Google компанийг орхисноор хиймэл оюуны аюулын талаар чөлөөтэй ярих боломжтой болсон юм. Тэр бүү хэл бүхий л насаа зориулсан уг үйл хэргийнхээ төлөө заримдаа харамсдаг гэж өчив.
Оюутнуудынхаа хамтаар уг чухал нээлтийг хийсэн сургуулиас хэдэн метр алхаад очих гэрт нь өдөржин ярилцах үед Ж.Хинтон “Хэрэв би хийгээгүй бол өөр хэн нэг нь хийх л байсан гэсэн шалтгаанаар өөрийгөө тайвшруулдаг” гэж өгүүлсэн юм.
Хиймэл оюуны үрийг таригчаас гай зовлонг нь сануулагч болох хүртэлх Ж.Хинтоны аялал нь сүүлийн 10 жилийн технологийн салбарын хамгийн чухал эргэлтийн цэг дээр таарч байгаа юм.
Хиймэл оюуны шинэ системүүд нь 1990-ээд онд вэб браузерийг нээсэнтэй адил чухал үйл явдал бөгөөд эмийн судалгаа, боловсрол гээд олон салбарт эрс өөрчлөлт авчирч чадна гэдэгт тус салбарын манлайлагчид итгэж байна.
Гэхдээ тэднийг тун аюултай байж болзошгүй зүйлийг сул тавих гэж байна гэх айдас тус салбарын олон мэргэжилтэнд төрж байгаа нь нууц биш. Үүсгэгч хиймэл оюун нь худал мэдээллийн хэрэглүүр болоод эхэлсэн. Тун удахгүй олон хүний ажлын байрыг үгүй хийнэ. Харин хамгийн их санаа зовогчдын үзэж буйгаар уг технологи нь хүн төрөлхтнийг үгүй хийх эрсдэлтэй аж.
“Муу талынхан уг зүйлийг ашиглаж муу зүйл хийхээс яаж сэргийлэх вэ гэдгийг би лав олж харж чадахгүй байна” гэж Ж.Хинтон өгүүлсэн.
Сан-францискод төвтэй OpenAI стартап компани гуравдугаар сард ChatGPT-ийн шинэ хувилбарыг гаргасны дараа хиймэл оюун нь “нийгэм, хүн төрөлхтөнд гүн гүнзгий эрсдэл” учруулж байгаа учраас шинэ системүүд хөгжүүлэхийг зургаан сарын турш зогсоохыг уриалсан нээлттэй захидлыг технологийн салбарын 1000 гаруй манлайлагч, судлаач гаргасан.
Үүнээс хэдэн өдрийн дараа 40 жилийн түүхтэй академик судалгааны Association for the Advancement of Artificial Intelligence байгууллагын одоогийн болон өмнөх 19 захирал хиймэл оюуны эрсдэлийн талаар мөн анхааруулсан мэдэгдэл гаргаж байлаа. Тэдний дунд OpenAI-ийн технологийг хайлтын Bing систем зэрэг төрөл бүрийн бүтээгдэхүүндээ ашигладаг Microsoft компанийн шинжлэх ухаан хариуцсан захирал Эрик Хорвитц байсан юм.
“Хиймэл оюуны загалмайлсан эцэг” хэмээгддэг Ж.Хинтон эдгээр захидлын алинд ч гарын үсэг зураагүй бөгөөд ажлаа орхих хүртлээ Google болон бусад компанийг ил тод шүүмжлээгүй. Тэрбээр ажлаас гарах тухайгаа өнгөрсөн сард компанидаа мэдэгдэж, дөрөвдүгээр сарын 27-нд Google-ийн толгой компани болох Alphabet-ийн гүйцэтгэх захирал С.Пичайтай утсаар ярьсан аж. Түүнтэй юу ярилцсан талаар дэлгэрэнгүй мэдээлэл өгөхөөс Ж.Хинтон татгалзсан.
Харин Google-ийн ерөнхий эрдэмтэн Ж.Дийн “Бид хиймэл оюунд хариуцлагатай хандах болно. Бид зоригтойгоор нээлт хийхийн зэрэгцээ үүсэж болзошгүй эрсдэлийг байнга судалсаар байна” гэсэн мэдэгдэл гаргав.
Өдгөө 75 настай Ж.Хинтон бол хиймэл оюуныг хөгжүүлэх, ашиглах талаарх хүсэл зорилгодоо хөтлөгдөн өөрийн карьераа тодорхойлсон эрдэмтэн хүн юм. 1975 онд, Эдинбургийн их сургуулийн магистрт сурч байхдаа тэрбээр мэдрэлийн сүлжээ (neural network) хэмээх сэдвийг сонирхож эхэлжээ. Мэдрэлийн сүлжээ бол өгөгдлийг задлан шинжлэх замаар ур чадварт суралцдаг математикийн систем юм. Тухайн үед цөөн судлаач энэ санааг бодитой гэдэгт итгэж байсан бол Ж.Хинтоны насан туршийн ажил болжээ.
1980-аад онд тэрбээр Карнеги Меллоны их сургуульд компьютерийн шинжлэх ухааны профессороор ажиллаж байсан ч Пентагоноос санхүүжилт авахыг хүсээгүй учир Канад руу явжээ. Тухайн үед АНУ-д хиймэл оюуны ихэнх судалгааг Батлан хамгаалах яам санхүүжүүлдэг байсан юм.
Тэрбээр хиймэл оюуныг тулааны талбарт ашиглахыг эсэргүүцэж, уг аргыг “робот цэргүүд” хэмээн шүүмжилж байв.
2012 онд доктор Ж.Хинтон болон Торонтогийн их сургуулийн оюутан Илья Суцкевер, Алекс Кришевский нар олон мянган гэрэл зургийг задлан шинжилж, улмаар цэцэг, нохой, машин зэрэг нийтлэг обьектийг өөрөө тодорхойлж чаддаг мэдрэлийн сүлжээг бүтээсэн юм.
Хоёр оюутны хамт Ж.Хинтоны байгуулсан компанийг Google 44 сая ам.доллароор худалдаж авсан агаад тэдний бүтээсэн системийн үр дүнд ChatGPT, Google Bard чатбот зэрэг олон хүчирхэг технологи гарчээ. И.Суцкевер OpenAI-ийн ерөнхий эрдэмтэн болсон бол 2018 онд Ж.Хинтон олон жил цуг ажилласан өөр хоёр хамтрагчийн хамтаар мэдрэлийн сүлжээг хөгжүүлэх үйлсэд оруулсан хувь нэмрийнхээ төлөө “компьютерийн салбарын Нобелын шагнал” гэж нэрлэдэг “Turing Award”-ийг хүртэв.
Энэ зуур Google, OpenAI зэрэг компани үлэмж хэмжээний дижитал текст дээр ажилладаг мэдрэлийн сүлжээг бүтээж эхэлсэн. Машинуудын хувьд хүний хэлийг ойлгож, үүсгэх тун хүчирхэг арга нь энэ мөн боловч хүн хэлийг ашигладагтай харьцуулбал тун тааруу хэвээр үлдэнэ гэж Ж.Хинтон үзэж байлаа.
Харин өнгөрсөн онд Google, OpenAI компани хамаагүй их өгөгдөл ашигладаг системийг бүтээснээр түүний байр суурь өөрчлөгджээ. Эдгээр систем нь хүний тархийг гүйцэх чадамжгүй ч зарим талаараа хүний оюун ухаанаас хол давуу болж байгаа гэж Ж.Хинтон үзсэн байна. “Эдгээр систем дотор явагдаж байгаа зүйл нь тархинд болж буй зүйлээс хэд дахин илүү байж магадгүй” гэж тэрбээр хэлсэн.
Компаниуд хиймэл оюуны системээ хөгжүүлэх тусам тэдгээр систем улам аюултай болно гэж Ж.Хинтон үздэг бөгөөд “Таван жилийн өмнө ямар байв, өнөөдөр ямар болсныг хар. Ялгааг нь авч үзээд ирээдүй рүү харагтун. Бодохоос аймаар” гэж өгүүлсэн.
Google компани өнгөрсөн оныг хүртэл уг технологийн “сахин хамгаалагч”-ийн үүргийг гүйцэтгэж, аюул учруулах ямар нэг зүйлийг танилцуулахгүй байхад анхаарсаар ирсэн. Харин Microsoft өөрийн Bing хайлтын системд чатбот суулгаж, Google-ийн үндсэн бизнест сорилт үүсгэснээр Google мөн ижил технологи хөгжүүлэхээр яарч эхэлсэн юм. Технологийн том компаниуд зогсоохын эцэсгүй өрсөлдөөнд ороод байна гэж Ж.Хинтон үзэж байна.
Хуурамч гэрэл зураг, видео, текстээр интернэт дүүрч, жирийн хүн чухам алийг нь үнэн гэдгийг ялгах боломжгүй болно гэдэгт түүний санаа хамгийн их зовж буй. Мөн хиймэл оюун ашигласан технологи нь хөдөлмөрийн зах зээлийг сүйрүүлнэ гэж эмээдэг. ChatGPT зэрэг чатбот нь өнөөдөр хүний ажлыг хөнгөвчилж, тус болж байгаа ч туслах хуульч, хувийн туслах, орчуулагч зэрэг давтаад сурч болдог ажлын байрыг үгүй хийж мэднэ. “Нэгэн хэвийн ажлыг устгах боловч үүнээс ч илүү их зүйлийг үгүй хийж мэднэ” хэмээн түүний санаа зовж буй.
Задлан шинжилж буй их хэмжээний өгөгдлөөс гэнэтийн, санаандгүй зан авирыг сурч болзошгүй учраас ийм төрлийн технологийн ирээдүйн хувилбарууд нь хүн төрөлхтөнд аюул авчирна хэмээн тэрбээр эмээдэг. Өөрийн компьтер кодыг бүтээхээс гадна бие дааж тэдгээр кодыг удирдах боломжийг хиймэл оюунд хувь хүн, компаниуд олгоод эхэлбэл энэ эрсдэл бодитой болно гэж тэрбээр дүгнэжээ. Алуурчин робот зэрэг бие даасан зэвсэг бодитой болох өдрөөс Ж.Хинтон хамгийн их эмээдэг.
Олон судлаач, тэр дундаа түүний шавь, хамтрагч нар уг аюулыг таамаглал төдий хэмээн үздэг. Гэхдээ Google, Microsoft болон бусад компанийн хоорондох өрсөлдөөн нь дэлхийг хамарч, олон улсын зохицуулалт гарахгүй л бол зогсохгүй гэдэгт Ж.Хинтон итгэдэг.
Гэхдээ ингэх боломжгүй ч байж магадгүй. Цөмийн зэвсгээс ялгаатай нь тухайн компани, эсвэл улс хиймэл оюуны технологи дээр ажиллаж байгаа эсэхийг мэдэх боломжгүй. Өдгөө гол найдвар бол дэлхийн тэргүүлэх эрдэмтэн судлаачид уг технологийг хянах арга замуудыг олохын тулд хамтран ажиллах юм. “Хянаж чадна гэдгээ мэдэх хүртлээ уг технологийг хэт хөгжүүлэхгүй байх ёстой” гэж тэрбээр онцоллоо.
