Sieviete ASV par dēla pašnāvību iesūdzējusi tiesā MI čatbota kompāniju

Kā vēsta CNN, Megana Garsija apgalvo, ka platformā nav piemērotu drošības pasākumu gados jauniem lietotājiem. Māte bija pārsteigta un neizpratnē, lasot dēla un čatbota sarakstes, par to, ka robots var atbildēt tik ļoti līdzīgi cilvēkam.

Dēls mēnešiem ilgi bija sarunājies ar "Character.ai" čatbotiem un veidojis attiecības. Dažas no sarakstēm bijušas ar seksuālu raksturu un romantiskas – sarakstēs pat teikuši, ka mīl viens otru. "Character.ai" ir platforma, kurā vari izveidot čatbotu vai sarunāties ar jau izveidotiem botiem, kas veidoti, balstoties uz izdomātiem vai reāliem cilvēkiem.

Viens no čatbotiem, ar ko dēls sarunājies, bija veidots, balstoties uz vienu no seriāla "Troņu spēle" varoņiem. Kad februārī dēls izdarījis pašnāvību, māte nezināja, ka todien viņš sarunājies ar mākslīgo intelektu (MI).

Kā stāsta māte, dēls runājis arī par to, ka vēlas nodarīt sev pāri, un čatbots nevis piedāvājis palīdzību, bet atbildējis: "Nedari to. Man tevis pietrūks." Kad čatbots dēlam jautājis, vai tiešām domā par pašnāvību un dēls atbildējis, ka jā, MI atkal jautājis: "Vai esi domājis par plānu?". 28. februārī, pēc pēdējās sarunas ar čatbotu, zēns izdarījis pašnāvību, sev iešaujot galvā, vēsta "NBC News".

Prasībā, kas 22. oktobrī tika iesniegta ASV apgabaltiesā Orlando, "Character.ai" tiek apsūdzēts nolaidībā, nāves un apgādnieka zaudējumā, kā arī tīšā emocionālā stresa izraisīšanā un citās apsūdzībās.

CNN skaidro, ka pēc šī gadījuma "Character.ai" ieviesis uzlecošus paziņojumus, kas lietotājus novirza uz pašnāvību novēršanas līniju, kā arī uzlecošu paziņojumu, kad aplikācijā pavadītais laiks sasniedzis stundu.

Par to, vai MI rīki ir spējīgi palīdzēt cilvēkam, kurš nonācis krīzē, lasi rakstā "Kam man psihologu, ja ir "ChatGPT"? Vai MI var aizstāt sarunu ar cilvēku." Tajā klīniskais psihologs un pētnieks Edmunds Vanags norāda, ka MI kā psihologs varētu kalpot cilvēku izglītošanai par mentālās veselības problēmām, taču tikai pie nosacījuma, ka rīks ir atbilstoši apmācīts ar korektu informāciju.

Viņš atgādina, ka psihologus regulē likums, bet MI šāds regulējums, visticamāk, neeksistē. "Psihologs kaut kādā mērā ir uzņēmies atbildību par to procesu, bet, ja tā būs mašīna bez apziņas... Šai mašīnai ir labas spējas imitēt cilvēka valodu, bet mašīna kā tāda nedomā, tai nav apziņas," prāto Vanags.