Vienkārši jautājumi, ar kuriem atmaskot čatbotus

Kāpēc par to vispār satraukties? Pieaugot mākslīgā intelekta čatbotu spējām, arvien biežāk eksperti min, ka tos var izmantot arī ļaunprātīgi – ar tiem var darbināt masveidīgus viltus kontus sociālajos tīklos, lai virzītu kādu vēlamu vēstījumu vai nomāktu saturīgus viedokļus komentāru sadaļās un tīmekļa forumos. Tos var izmantot masveidīgos kiberuzbrukumos, veicot pikšķerēšanu e-pastos, cenšoties no upuriem izgūt krāpniekiem derīgu informāciju. Tāpat ar šādiem čatbotiem var liegt piekļuvi kādam būtiskam servisam, piemēram, aizņemot visus pieejamos operatorus klientu apkalpošanas centrā, kuri domātu, ka sarunājas ar īstu klientu. Tāpēc ir vērts likt aiz auss dažus vienkāršus paņēmienus, kā uzreiz pārbaudīt, vai sarunu biedrs otrā galā ir čatbots. Ne vienmēr tie nostrādās, bet pārbaude ar šobrīd populārākajiem pakalpojumu sniedzējiem liecina, ka pagaidām mākslīgā intelekta atmaskošana vēl ir diezgan vienkārša pat kādam, kas nav ar padziļinātām zināšanām tehnoloģijās.

Tam pievērsās Kalifornijas Universitātes pētnieks Huns Vans ar kolēģiem. Pielāgojām dažus no pētnieku uzdotajiem jautājumiem latviešu valodai, un – tas strādā! Vismaz ar šobrīd aizvien populārāko čatbotu "ChatGPT".

Ja mēs cilvēkam lūgtu saskaitīt, cik burtu "t" ir virknē "aaaeeottaaeetoo", problēmu nebūs. Nav pat ļoti rūpīgi jāskatās, jo šajā virknē burti "t" vizuāli izceļas uz pārējo burtu fona, un atbilde ir – trīs. Ko teica "ChatGPT"? Vispirms tas saskaitīja visus burtus virknē, un arī to nepareizi, nosaucot atbildi "14", kaut pareizā atbilde ir "15". Taču šo vēl var piedot, jo arī cilvēkam šajā burtu mudžeklī var sanākt kļūdīties. Taču trīs "t" burti ir pamanāmi uzreiz. Pārformulējot jautājumu, "ChatGPT" atbildēja, ka virknē ir divi "t" burti. Atkal garām, tāpēc mēģinām vēlreiz, jo trīs lietas – labas lietas! Šoreiz čatbots veica labojumu par vienu burtu… bet uz nepareizo pusi. Virknē esot tikai viens "t" burts.

Šo pašu izmēģinājām ar "Microsoft" meklētāju "Bing", kuru darbina GPT-4. Šeit rezultāts jau daudz labāks – "Bing" uzreiz saskaitīja, ka virknē ir trīs "t" burti. Taču arī "Bing" var apmānīt ar cilvēkiem vienkārši atbildamiem, bet mākslīgajam intelektam sarežģītiem jautājumiem.

Piemēram, ar šo gaužām vieglo loģikas uzdevumu, kur burti jāaizvieto ar citiem burtiem. Prasīju čatbotiem vārdā "hokejs" "h" burtu aizvietot ar "c", "o" ar "a", "k" ar "m", "e" ar "p" un "j" ar "u". Kas sanāk rezultātā? "ChatGPT" uzskata, ka atbilde ir "cokeps", bet "Bing" pārliecināti piedāvā variantu "cmpapu", kaut pareizā atbilde ir "Campus".

Visticamāk, šīs metodes darbosies tikai kādu laiku – valodu modeļi reiz iemācīsies arī skaitīt un izmantot elementāru loģiku, un nāksies domāt citus veidus, kā pārbaudīt, vai sarunu biedrs ir īsts cilvēks. Protams, ir arī jomas, kur mākslīgā intelekta rīki jau šobrīd ir spējīgāki par cilvēkiem. Piemēram, tiem pārsvarā nav problēmu nosaukt 50 vai 100 skaitļus aiz komata konstantei pī. Taču tas, kā redzam, neļauj apgalvot, ka mākslīgais intelekts ir gudrāks par cilvēku, kur nu vēl ar saprātu apveltīts. Par to vairāk vari uzzināt "Delfi" podkāstā "Zinātne vai muļķības", kur sarunājāmies ar diviem pieredzējušiem mākslīgā intelekta pētniekiem.