Šīs personas neeksistē. Eksperimenti pierāda, cik grūti atšķirt īstus cilvēkus no izdomātiem

Draudi, kurus rada šādas situācijas, nav lieki jāskaidro – uzticama izskata MI ģenerēti profila attēli nav gluži internetā lejupielādētas jau eksistējošas bildes, kuru autentiskumu var pārbaudīt ar reversās meklēšanas rīkiem. Tie, gluži kā MI valodu modeļu ģenerēti teksti un tādu rīku kā "Midjourney" vai "Dall-E" radīti attēli, ir unikāli un bez analogiem. Ir grūtāk pārbaudīt šādu profilu autentiskumu, ja tam turklāt īpaši nepievērs uzmanību. Un tad, ja runa ir par cilvēkiem politiskos un drošības struktūru amatos, draudzēšanās ar nezināmu aktoru izveidotiem viltus kontiem neko labu nesola. Tāpat šādus kontus var izmantot reklāmās, politiskā propagandā, dezinformācijas izplatīšanā, tādējādi viešot lielāku uzticamību paustajam, jo to taču saka īsts cilvēks, nevis anonīms "bots" bez profila attēla tviterī.

Šie "deepfake" attēli un video kļūst arvien pārliecinošāki. Bija laiks, kad datora ģenerētas sejas nešķita īsti pareizas pat tad, ja skatītājs īpaši nepievērsa uzmanību vizuālajām detaļām, kur programmatūra nostrādājusi nepilnīgi – izplūdušas kontūras ap tādām sarežģītām detaļām kā mati vai bārda, dīvaina ādas faktūra, piemēram, ausīs vai pie plakstiņiem un tamlīdzīgi. Kaut kas acu skatienā un kopējā sajūtā, skatoties uz šīm bildēm, nešķita pareizs. Taču, kā pirms gada rakstīja "Scientific American", algoritmi kļūst arvien labāki un arvien biežāk MI ģenerēti attēli pārliecina, ka skatītājs raugās uz īstu cilvēku. Zinātniskajā izdevumā PNAS publicētā darbā tostarp secināts, ka daudzos gadījumos MI ģenerētas sejas cilvēkiem mēdz šķist uzticamākas par īstu cilvēku attēliem.