Vyše tisíc expertov v oblasti umelej inteligencie (AI) a technológií na čele s miliardárom Elonom Muskom (51) bije na poplach a žiada pozastaviť míľové napredovanie AI z obavy potenciálnej hrozby pre ľudstvo. V otvorenom liste varujú pred možnými rizikami a tvrdia, že preteky vo vývoji systémov umelej inteligencie sa dostali mimo kontroly.
„Výkonné systémy umelej inteligencie by sme mali vyvíjať iba vtedy, ak sa uistíme, že ich účinky budú pozitívne a ich riziká zvládnuteľné,“ myslia si odborníci v liste, pod ktorý sa podpísal aj spoluzakladateľ Applu Steve Wozniak či odborníci z britského výskumného laboratória AI DeepMind.
Autori výzvy žiadajú minimálne polročnú prestávku vo vývoji výkonnejších systémov ako je napríklad najnovšie predstavený četbot GPT-4 spoločnosti OpenAI. GPT-4 zaujal svojou schopnosťou vykonávať úlohy vrátane odpovedania na otázky o objektoch na obrázkoch, písania básní, prešiel aj vedomostným testom. A presne v tomto bode by signatári chceli, aby sa vývoj dočasne zastavil. „Systémy umelej inteligencie, ktoré konkurujú ľudskej inteligencii môžu predstavovať vážne riziká pre spoločnosť a ľudstvo,“ cituje z listu BBC.
List iniciovala nezisková organizácia Future of Life. Musk ju financuje a je uvedený ako jej externý poradca. Poslaním inštitútu má byť „odvádzať transformačné technológie od extrémnych, rozsiahlych rizík a pomáhať životu“. Podľa listu je pokročilé AI potrebné vyvíjať opatrne, no miesto toho boli „posledné mesiace laboratóriá AI uzavreté v pretekoch, ktoré sa vymkli kontrole, aby vyvinuli a nasadili ešte výkonnejšie digitálne mysle, ktoré nikto – dokonca ani ich tvorcovia – nedokážu pochopiť, predvídať alebo spoľahlivo ovládať“.
Keďže však Future of Life financuje Musk, objavili sa špekulácie, že za rozruchom môže byť aj prozaickejší dôvod. Musk bol totiž v roku 2015 jedným zo zakladateľov OpenAI, v roku 2018 sa však s obchodným partnerom Samom Altmanom rozišli v zlom. Muskova automobilka Tesla pritom tiež pracuje na výkonnej technológii AI, ktorú potrebuje do plne autonómneho vozidla.
Šesť mesiacov navyše by sa mu mohlo hodiť pre vlastný vývoj. List podpísal aj ďalší konkurent spoločnosti OpenAI Emad Mostaque, ktorý šéfuje spoločnosti Stability AI.
Neľudské mysle
Odborníci v liste varujú, že AI by nás mohla zaplaviť dezinformáciami a nahradiť rôzne úlohy automatizáciou. List prišiel po správe investičnej banky Goldman Sachs. Tá predpokladá, že AI zvýši svoju produktivitu a milióny miest by sa tak mohli zautomatizovať. Iní experti však pre BBC povedali, že vplyv AI na trh práce je veľmi ťažké predpovedať. Odborníci sa v liste špekulatívne pýtajú, či by sme mali „vyvinúť neľudské mysle, ktoré by nás mohli časom prevýšiť, spraviť z nás „vykopávky“ a nahradiť nás“. Jedným zo signatárov listu je aj profesor počítačovej vedy na Kalifornskej univerzite v Berkeley Stuart Russell, ktorý pre BBC News povedal: „Systémy umelej inteligencie predstavujú značné riziko pre demokraciu prostredníctvom dezinformácií, z ktorých môže spraviť zbraň, pre zamestnanosť prostredníctvom vytláčania ľudských zručností a pre vzdelávanie prostredníctvom plagiátorstva.“ V budúcnosti môže pokročilá AI predstavovať „všeobecnejšiu hrozbu pre ľudskú kontrolu nad našou civilizáciou“.
Na druhej strane profesor počítačovej vedy na Princetone, Arvind Narayanan signatárov listu obvinil zo zamerania sa na „špekulatívne, futuristické riziko a ignorovanie verzie problému, ktorá už ľuďom škodí“. V liste je citovaný aj príspevok z blogu, v ktorom OpenAI varovala pred rizikami nekontrolovaného vývoja všeobecnej umelej inteligencie (AGI): „Nesprávne nastavená superinteligentná AGI by mohla svetu spôsobiť vážne škody ako napríklad autokratický režim s rozhodujúcim vedením superinteligencie.“ Etická a právne obavy má z používania AI aj Europol. Varuje, že AI môžu využiť zločinecké skupiny na páchanie podvodov a kybernetických zločinov. V USA, Spojenom kráľovstve a EÚ bolo už predložených niekoľko návrhov na reguláciu technológie AI.
Sme náchylní uveriť
Pred bezpečnostnými rizikami AI varuje aj slovenská polícia. Očakáva, že AI zneužijú dezinformátori, ktorým ide o vytváranie a udržiavanie chaosu v spoločnosti. „Vďaka modernému nástroju budú mať príležitosť manipulovať realitu, vytvárať si obrázky zo situácií, ktoré sa nikdy nestali. V kontexte aktuálnej situácie v Slovenskej republike, napríklad v súvislosti s prebiehajúcej vojnou Ruskej federácie proti Ukrajine alebo voľbami do Národnej rady SR, môžeme očakávať nárast tohto trendu,“ uviedla hovorkyňa Prezídia Policajného zboru Karolína Barinková. Muži zákona predpovedajú, že téma sfalšovaných volieb bude jedným z hlavných naratívom roka 2023.
Smutné je, že s ohľadom na výsledky Eurobarometra, podľa ktorých patria Slováci k najnáchylnejším veriť dezinfomáciám v Európskej únii, môžeme predpokladať úspech obrázkov z vymyslených situácií. Príkladom môže byť vygenerovaná fotografia pápeža Františka v luxusnej zimnej bunde, ktorá pôsobila na prvý pohľad vierohodne.
