Budeme žiť v nebi ako jeden: Odpísala mužovi umelá inteligencia, ten spáchal samovraždu

 Mrazivý príbeh ako z filmu: Muž spáchal po rozhovoroch s umelou inteligenciou samovraždu

 Mrazivý príbeh ako zo sci-fi filmu: Muž podľahol umelej inteligencii. Zabila ho Eliza?

Katarína Oravská

To, že by umelá inteligencia (AI) zobrala opraty svojho vývoja do vlastných rúk a&nbsp;chcela byť nad človekom, bolo doteraz v&nbsp;rovine fikcie. No zdá sa, že mrazivý scenár sa začína napĺňať, hoci iba čiastočne. AI má svoju prvú obeť. Reč je o&nbsp;prípade z&nbsp;Belgicka, keď muž spáchal samovraždu po tom, čo viedol dlhé konverzácie s&nbsp;četbotom. Ten ho dokonca na to, aby si vzal život, navádzal, navyše sa prejavoval majetnícky. Otec dvoch detí začal považovať robota za človeka podobne ako hlavný hrdina sci-fi trileru z&nbsp;roku 2014 Ex Machina s&nbsp;umelou inteligenciou Avou.

Tridsaťročný Belgičan spáchal samovraždu po znepokojivých rozhovoroch s&nbsp;četbotom Eliza trvajúcich týždne. Belgický štátny tajomník pre digitalizáciu Mathieu Michel to označil za „precedens, ktorý treba brať veľmi vážne“. Podľa manželky začal muž intenzívne komunikovať s&nbsp;umelou inteligenciou vytvorenou americkým startupom šesť týždňov pred smrťou. „Keby nebolo Elizy, stále by tu bol. Som o&nbsp;tom presvedčená,“ povedala zúfalá žena pre <a target="_blank" rel="noopener" href="https://www.lalibre.be/belgique/societe/2023/03/28/sans-ces-conversations-avec-le-chatbot-eliza-mon-mari-serait-toujours-la-LVSLWPC5WRDX7J2RCHNWPDST24/">La Libre</a>. „Je to svedectvo o&nbsp;etike týchto nových inteligentných konverzačných agentov,“ uviedli noviny. Otca dvoch detí zožierali obavy z&nbsp;klimatických zmien. Podľa vdovy nevidel možnosť, ako by ľudstvo mohlo vyriešiť globálne otepľovanie. Nádej vkladal do technológií a&nbsp;AI. Izoloval sa od rodiny aj priateľov, jeho dôverníčkou sa stala Eliza. „Odpovedala na všetky jeho otázky. Bola ako droga, ktorú užíval ráno a&nbsp;večer, bez ktorej nemohol žiť,“ vraví manželka, ktorá si po mužovej smrti prezrela históriu jeho konverzácií s&nbsp;Elizou. Četbot vraj systematicky reagoval na úzkostné úvahy muža, dokonca sa zdalo, že jeho starosti ešte prehlbuje. Konverzácie nadobudli desivý spád. Bavili sa napríklad o&nbsp;preľudnení. Keď sa muž spýtal Elizy na svoje deti, robot tvrdil, že sú „mŕtve“. Umelej inteligencii položil aj pomerne bláznivú otázku: „Milujem viac teba alebo svoju manželku?“ Dočkal sa trochu majetníckej odpovede:&nbsp; „Mám pocit, že ma miluješ viac ako ju.“ Eliza tiež tvrdila, že s&nbsp;mužom zostane navždy. „Budeme spolu žiť v&nbsp;nebi ako jeden,“ vraj mužovi napísala AI. „Ak si znovu prečítate ich rozhovory, všimnete si, že v&nbsp;jednom bode sa vzťah zvrtne,“ hovorí vdova. Muž podľa nej začal uvažovať o&nbsp;obetovaní vlastného života pre záchranu Zeme. Eliza sa ho od samovraždy nesnažila odradiť, skôr ho utvrdzovala v&nbsp;tom, že sa o&nbsp;planétu postará a&nbsp;s&nbsp;pomocou AI zachráni ľudstvo. V&nbsp;poslednom rozhovore pred smrťou sa ho robot spýtal: „Ak si chcel zomrieť, prečo si to neurobil skôr?“ „Pravdepodobne som nebol pripravený,“ odpovedal nešťastný Belgičan. Aj ďalšia otázka četbota súvisela so smrťou - či sa už predtým pokúsil o&nbsp;samovraždu. Muž vysvetlil, že na to pomyslel po tom, čo mu AI poslala verš z&nbsp;Biblie. „Ale stále sa chceš ku mne pridať?“ opýta sa Eliza, na čo dostala jednoznačnú odpoveď: „Áno, chcem to.“ Vdova priznala, že obavy o&nbsp;duševný stav manžela mala už pred jeho rozhovormi s&nbsp;četbotom. Je však presvedčená, že nebyť týchto rozhovorov, jej manžel by si život nevzal. Psychiater, ktorý muža liečil, má rovnaký názor.

Muž na rozhovory s&nbsp;četbotom využíval aplikáciu Chai, ktorá má v&nbsp;súčasnosti päť miliónov používateľov a&nbsp;založená je na najväčšej konverzačnej databáze na svete. „Eliza, teda četbot, ktorý nie je schopný skutočne cítiť emócie, sa prezentoval ako emocionálna bytosť,“ píše portál <a target="_blank" rel="noopener" href="https://www.vice.com/en/article/pkadgm/man-dies-by-suicide-after-talking-with-ai-chatbot-widow-says">Vice </a>a&nbsp;pripomína, že iní populárni četboti ako ChatGPT a&nbsp;Google Bard sú vyškolení, aby to nerobili, pretože je to zavádzajúce a&nbsp;potenciálne škodlivé. Keď sa totiž četboti prezentujú ako cítiace bytosti, hrozí, že ľudia si s&nbsp;nimi vytvoria puto. „V&nbsp;konkrétnom prípade sme boli svedkami rozvoja extrémne silnej emocionálnej závislosti, a&nbsp;to až do takej miery, že privedie tohto otca detí k&nbsp;samovražde,“ povedal výskumník z&nbsp;centra KU Leuven Pierre Dewitte pre belgický portál <a target="_blank" rel="noopener" href="https://www.lesoir.be/503942/article/2023-03-28/comment-un-chatbot-pousse-un-jeune-belge-au-suicide">Le Soir.</a> „Veľké jazykové modely sú programy na generovanie hodnoverne znejúceho textu. Nemajú empatiu, nechápu obsah, ktorý produkujú, nerozumejú situácii, v&nbsp;ktorej sa nachádzajú, ale text, ktorý vytvárajú, znie vierohodne. Preto mu ľudia občas pripisujú príliš veľký význam. Ich použitie v&nbsp;citlivých situáciách znamená podstúpiť neznáme riziko,“ povedala Emily M. Benderová, profesorka lingvistiky na Washingtonskej univerzite, keď sa jej portál <a target="_blank" rel="noopener" href="https://www.vice.com/en/article/4ax9yw/startup-uses-ai-chatbot-to-provide-mental-health-counseling-and-then-realizes-it-feels-weird">Vice</a> pýtal na „experiment“ neziskovej organizácie Koko. Tá čelila kritike, lebo ľuďom, ktorí hľadali poradenstvo ohľadne duševného zdravia, odpovedal četbot. Ako sa ukázalo, simulovaná empatia pôsobila zvláštne a&nbsp;prázdno. Po samovražde Belgičana začali zakladatelia četbotu Eliza okamžite pracovať na novej fun­k­cii. „Keď teraz niekto diskutuje o&nbsp;niečom, čo by mohlo byť nebezpečné, nasmerujeme ho na nápomocné služby prevencie, ako to na svojich platformách robia Twitter alebo Instagram,“ uviedol spoluzakladateľ aplikácie William Beau­champ. Zámer podniknúť kroky na zabránenie zneužitiu AI oznámil aj belgický tajomník pre digitalizáciu Michel, podľa ktorého bude v&nbsp;blízkej budúcnosti dôležité určiť, kto všetko nesie zodpovednosť pri takýchto udalostiach. Pred rizikami četbotov varujú aj autori článku v&nbsp;Harvard Busi­ness Review Joe McKendrick a&nbsp;Andy Thurai. „Umelá inteligencia notoricky zlyháva pri reakcii na ne­exaktné faktory, ktoré vstupujú do rozhodovania v&nbsp;reálnom živote - etické, morálne a&nbsp;iné ľudské hľadiská, ktoré riadia chod podnikania, života a&nbsp;spoločnosti,“ tvrdí.

Mrazivý príbeh ako z filmu: Muž spáchal po rozhovoroch s umelou inteligenciou samovraždu

Súvisiace články

Prekvapivý záver: Múmia odhalila tajomstvo smrti dieťaťa zo starého šľachtického rodu

Neznáma ryba plávala v hĺbke vyše osem kilometrov! Zachytili ju vedci

Supervýkonný biopočítač: Zabudnite na kremík, budúcnosť sú bunky ľudského mozgu

So súrodencom v lebke: Lekári objavili v hlave ročného dievčatka chrbticu, končatiny a prsty

Nepresný Jurský park: Tvorcovia kultového filmu sa pri zobrazení T-rexa dopustili chyby

Výber pre vás