Čo sa stane, keď umelá inteligencia a stroje dobyjú svet? Kto si zachová prácu a ako bude vyzerať naša spoločnosť? Dokážeme odvrátiť smrť a žiť navždy? Je umenie našou spásou? Na všetky otázky odpovedá francúzsky emeritný profesor filozofie na slávnej Sorbonne JEAN-MICHEL BESNIER (73), ktorý sa špecializuje na transhumanizmus, teda na transformácie človeka prostredníctvom moderných technológií. Rozprával sa s ním VIVIEN COSCULLUELA.
Elon Musk a tisíce ďalších osobností podpísali výzvu na pozastavenie výskumu o umelej inteligencii. Mali by sme mať všetci obavy?
Áno, nepredvídateľného vývoja umelej inteligencie sa obávame oprávnene. Táto najnovšia výzva nadväzuje na apel, ktorý pred niekoľkými rokmi zverejnili Stephen Hawking, Bill Gates, Noam Chomsky a mnoho ďalších významných osobností. Zašli vtedy veľmi ďaleko. Tvrdili, že umelá inteligencia ohrozuje existenciu ľudstva. Máme teda dobrý dôvod na obavy z miesta, ktoré v našom osude zastávajú stroje, a najmä umelá inteligencia, aj keď apokalyptický rozmer je trochu prehnaný. Umelá inteligencia však určite nepriaznivo zasahuje výsady ľudstva. Aj preto som pripravený bojovať proti technoprorokom.
Nevyplýva časť nášho strachu z toho, že je to opäť útok na ego ľudstva, podobne ako pri zistení, že Zem sa točí okolo Slnka a nie naopak?
Správne spomínate narcistické rany, ktoré definoval Sigmund Freud. Boli tri. Mikuláš Kopernik, ale aj Charles Darwin a psychoanalýza. Pokiaľ ide o štvrtú, áno, je to pravdepodobne umelá inteligencia, ktorá nás chce nahradiť. Boli sme predtým vytlačení zo stredu sveta a vecí, z Božieho stvorenia a z centra vlastného vedomia. Teraz sme vylúčení z riadenia sveta a z vlastnej existencie. Myslím si však, že v skutočnosti je to zložitejšie.
V akom zmysle?
Umelá inteligencia nás ohrozuje, pretože už nie sme narcistickí. Stratili sme schopnosť vidieť samých seba ako stredobod všetkého. Osvojili sme si myšlienku, že to už nie je naším miestom, a to ma najviac znepokojuje. Umelá inteligencia nás ohrozuje tým, že dnes v nás absentuje odolnosť, ktorú sme mali ešte za čias Freuda, Darwina alebo Kopernika. Aby bol človek narcisticky zranený, musí najprv mať rád sám seba. Musíte byť k sebe obzvlášť ohľaduplný a práve to nám najviac chýba. Už nemáme dôveru v seba samých, a preto čoraz viac zverujeme svoj život strojom. V tom mal Hawking pravdu, keď hovoril o hrozbe pre ľudstvo, pre jeho existenciu. Sami seba vnímame čoraz viac rozriedene, rozmazane.
Boli sme predtým vytlačení zo stredu sveta a vecí, z Božieho stvorenia a z centra vlastného vedomia. Teraz sme vylúčení z riadenia sveta a z vlastnej existencie.
Ako sa to prejavuje?
Cítime odpor k tomu, čo nás uzatvára v definíciách. Z tohto dôvodu sme napríklad svedkami rozmnožovania transľudí. Predstavujú premenlivosť v každom z nás, premenlivosť mentalít, túžob. Už neexistujú žiadne pevné body. Narcizmus nám dával pevné body, na ktorých sme lipli. Aktuálne sa nachádzame v labilite, tekutosti, ako povedal sociológ Zygmunt Baumann. Táto tekutosť nás robí o niečo zraniteľnejšími. Narcistické zranenie, o ktorom sme hovorili, už neznamená, že sme ohrození vo svojej integrite alebo identite. Pretože už ich dávno nevnímame ako niečo, čo by sme potrebovali a chceli.
Odkedy presne?
Od dvadsiateho storočia, keď si ľudstvo prestalo vážiť samo seba, keď prestalo cítiť sebalásku. Od polovice dvadsiateho storočia sa považujeme za predátorov na úrovni vesmíru. Spáchali sme tie najhoršie zverstvá, ako bolo napríklad holokaust, a zničili sme planétu. Ľudstvo už nemá úctu k sebe samému. Vďaka nej malo predtým pocit, že má čo stratiť.
Takže sme v istom zmysle zúfalí sami zo seba.
Áno. Čoraz viac ľudí si hovorí, že s umelou inteligenciou by sme mohli niečo získať, pretože nemáme čo stratiť. Preto je to také zložité, paradoxné. Už nie sme dostatočne narcistickí. Psychoanalytici hovoria, že keď majú liečiť pacientov, často musia začať tým, že im zlepšia pocit zo seba samých, že im vrátia nielen sebavedomie, ale aj pocit, že za niečo vôbec stoja. Ľudský druh je v procese, aspoň vo vyspelých spoločnostiach, zbavovania sa sebalásky, takže tú narcistickú ranu, prirodzene, už nemožno pociťovať. Je to práve to najnebezpečnejšie.
Od príchodu četbotu využívajúceho umelú inteligenciu ChatGPT sledujeme dva tábory. Jeden hovorí o ohrozenom ľudstve, druhý, naopak, o nespočetných nadchádzajúcich zázrakoch. Dá sa nájsť správny stred?
Používanie automatizmov a mechanizmov má niekedy výhody, to musím priznať. Jedným dychom však treba zopakovať, že naša identita a integrita sú ohrozené. Existuje tábor tých, ktorí majú k umelej inteligencii pragmatický prístup. Tvrdia, že nám uľahčí život, že nás odbremení od úloh, ktoré sú neuspokojivé a nevďačné. A potom sú tu tí, ktorí sa jej bránia z dôvodov, ktoré sú často tiež pragmatické. Spomínajú, že chýba akákoľvek kontrola umelej inteligencie. Že nevieme, ako fungujú konverzační agenti či zariadenia, ktoré denne používame.
Pochopiť to by nám pomohlo nájsť správny stred, o ktorom som hovoril?
Jedným zo spôsobov, ako mať trochu etický prístup k technológiám, je neoznačiť ich ani za jed ani za liek. Platí to aj pre umelú inteligenciu. Nedávny apel Elona Muska nie je výzvou na vzdanie sa umelej inteligencie, je to žiadosť o pozastavenie, spôsob, ako povedať: pribrzdime veci, skúsme najprv pochopiť, čo robíme. Pri umelej inteligencii neexistuje manicheizmus. Existujú názory, ktoré treba brať s ich odtieňami, nie čiernobielo. Niekedy považujem používanie umelej inteligencie za prospešné a vítam ho. No občas s hrôzou zistím, že som stratil kontrolu a že už presne neviem, čo to so mnou robí.
Ako v prípade ChatGPT?
Sme úplne zmätení mocou ChatGPT a všeobecne mocou algoritmov. Nie je to otázka toho, či sme technofili alebo technofóbi, teda či sme fanúšikovia technológií, alebo sa ich bojíme. Niektoré moje názory boli klasifikované ako technofóbne, čo je naozaj úplne od veci. Prístup k vedomostiam, ktorý dnes umožňuje internet, a zber údajov, ktorý zabezpečujú rôzne zariadenia, využívam dokonca viac ako väčšina ľudí. Uľahčuje mi to robotu. Napriek tomu sa obávam nadvlády, ktorú získava umelá inteligencia nad našimi životmi. Aj myšlienky, že mimo nej absolútne niet spásy.
Kto to tvrdí?
Niektorí transhumanisti. Buď si vyberiete umelú inteligenciu, alebo ju odmietnete a stanete sa šimpanzmi budúcnosti. Táto hrozba, že príde kliatba, sa mi zdá absolútne odporná, pretože je to vstupná brána k totalite, nech už je akákoľvek. Musíme brať veci s určitým odstupom, presne vedieť, čo máme na mysli, keď hovoríme o umelej inteligencii, a napokon si položiť otázku, ako regulovať jej používanie. Nesmieme jej venovať všetok priestor, ako sa o to pokúšajú ideológovia transhumanizmu.
Nevyžaduje si umelá inteligencia iba reorganizáciu kapitalistického systému, čo sa stalo aj pri industrializácii alebo po nástupe internetu?
Táto myšlienka sa pravidelne opakuje. Kladieme si otázku, či technológie nerušia pracovné miesta, a teda istým spôsobom nesmerujú k tomu, aby nás nahradili. V dokumente Organizácie pre hospodársku spoluprácu a rozvoj spred niekoľkých rokov sa uvádza, že v blízkej budúcnosti sa zachová len dvadsať percent pracovných miest. Zvyšok by mala preberať umelá inteligencia. Je pravda, že dennodenne môžeme vidieť, ako niektoré pozície zanikajú, napríklad v supermarketoch. V Paríži je čoraz menej zamestnancov a čoraz viac automatických pokladníc. A je to iba špička ľadovca.
S novými technológiami však súvisí aj vytváranie pracovných miest.
Mnohí sociológovia, napríklad Antonio Casilli, poukazujú na rozvoj takzvaných pracovníkov „klikačov“. Sú to tie ruky za strojmi na zber údajov, ktoré pracujú na tom, aby dokázali napríklad rozpoznávať tvary. Na to, aby toho boli stroje schopné, im musíte predložiť množstvo obrázkov. A tí, ktorí snímky zbierajú, sú ľudia. Títo zamestnanci vykonávajú opakovanú prácu, ktorú určite často vnímajú ako absurdnú.
Niektorí transhumanisti hovoria: Buď si vyberiete umelú inteligenciu, alebo ju odmietnete a stanete sa šimpanzmi budúcnosti.
Je to nová spoločenská trieda?
V istom zmysle áno. Bol to vedec a špecialista na nové technológie Joël de Rosnay, kto hovoril o pronetariáte. Je to kombinácia slova proletariát a internet. Internet vytvoril nový proletariát, ktorý je skrytý, utajený. Je to neviditeľné impérium, ktoré nevyužíva nevyhnutne klasických zamestnancov, ale skôr externistov a outsourcing. Preto treba brať reči o katastrofe týkajúcej sa zamestnanosti s rezervou. Dochádza však k viditeľnému úbytku pracovných miest, je to nepopierateľné. Umelá inteligencia určite povedie k vytlačeniu určitého počtu činností. S jej príchodom sa služby už zásadne zmenili. Konverzační agenti sa rozšíria aj do sveta medicíny.
Akým spôsobom?
S robotmi schopnými dešifrovať snímky pravdepodobne zaniknú rádiológovia. S príchodom strojov, ktoré sú schopné jemných zásahov, sa budú chirurgovia venovať iným úlohám. Už nebudú robiť palpácie a vyšetrenia charakteristické pre tradičnú chirurgiu. To všetko sa bude hýbať.
Možno nadnesene povedať, že je kapitalizmus vďačný za príchod nových technológií?
Umelá inteligencia je tiež a predovšetkým prostriedkom na produkciu bohatstva, zisku, a teda aj nerovností. Kapitalizmus sa stal finančným, špekulatívnym, dematerializovaným. Ako ste spomenuli, keď sme prešli od agrárnej k priemyselnej spoločnosti, došlo k veľkým premenám. Teraz prechádzame od industriálnej k virtuálnej spoločnosti, k metaverse. Máme do činenia s čoraz zákernejšou nadvládou. Pokiaľ ide o ňu a výrobné systémy, marxistické analýzy sú určite stále platné.
Ak by ste si mali vybrať zlom v dejinách ľudstva podobný tomu, ktorý predstavuje rozvoj umelých inteligencií, aký by to bol?
Vynájdenie kníhtlače. Predstavovalo výrazný zlom v spôsobe, akým produkujeme bohatstvo, zobrazujeme svet a komunikujeme medzi sebou. Kníhtlač bola spúšťačom Renesancie. Bol to aj zlom v tom, ako sme si znázorňovali ľudstvo a merali jeho moc nad svetom. Spomínam si, ako sa filozof Michel Serres, s ktorým som sa z času na čas sporil, pýtal, prečo sa tak obávame rozvoja umelej inteligencie.
Pomáhal si pritom porovnávaním so vznikom tlačiarenského priemyslu?
Áno, hovoril, že je to iba remake vývoja kníhtlače, len vo väčšom meradle. Na to som odpovedal, že to nie je to isté. Tlačiarenský priemysel uprednostňoval dialóg medzi ľuďmi, pretože tlač je médiom znakov. Sú to prvky, ktoré umožňujú dialóg, zatiaľ čo stroje nevytvárajú znaky, ale signály.
Čo to znamená?
Signál nepodporuje dialóg, prikazuje a očakáva poslušnosť. Nie je to celkom to isté. Je to teda nepochybne remake vzniku kníhtlače, ale v jeho najhoršej možnej verzii. Veľmi mi záleží na rozlišovaní medzi znakom a signálom. Zdá sa mi zabudnuté, zahmlené, potlačené. Vymieňame si znaky, produkujeme signály. Ak vám pošlem správu obsahujúcu znaky, vy odpoviete správou, ktorá tiež obsahuje znaky. Ak vám pošlem signál, je to preto, aby som od vás získal správanie, niekedy opätovanie signálu, nikdy nie argumentovanú diskurzívnu odpoveď. Signál si vyžaduje poslušnosť.
Takže poslúchame stroje?
Keď hovoríme o sile konverzačných agentov, snažíme sa zabudnúť na spomínaný podstatný rozdiel, akoby išlo o nejakého dobrotivého, obozretného človeka a nie o stroj. Často ide iba o smiešnu simuláciu, ktorá má jediný cieľ, a to zistiť o nás informácie, priviesť nás na správnu cestu pod zámienkou služby. Vidíme to všade, ale je jedno odvetvie, ktoré sa mi zdá mimoriadne kľúčové: zdravotníctvo.
Ako to v praxi vyzerá?
Aby sme vo Francúzsku nahradili nedostatok lekárov na vidieku, čoraz viac uvažujeme o vytvorení konzultačných kabín vo verejných službách a v supermarketoch. Pacient si sadne pred zariadenie na zhromažďovanie informácií a vyšetrí sa sám. Údaje potom dostane lekár, ktorý zhrnie výsledky a vystaví predpis. Tento lekár je stále človek, ale čoskoro ho nahradí konverzačný agent. Máme tu teda do činenia so zberom údajov a so strojom, ktorý spracúva signál a pacienta považuje za jednoduchý nosič dát. Úplne sme stratili dialogický rozmer výmeny medzi lekárom a pacientom, a to až do takej miery, že pacient už nie je pacientom, ale iba mechanizmom.
Umelá inteligencia je predovšetkým prostriedkom na produkciu bohatstva, zisku, a teda aj nerovností.
Už vôbec nie je človekom?
Už nie je ľudskou bytosťou so psychikou, s vnútorným rozmerom života, ale so súborom metabolizmov, ktorých fungovanie treba merať a ktorých dysfunkcie treba napraviť. Keď sme sa s rodinným lekárom rozprávali, boli sme v zmysluplnej interakcii. Dnes sme v kontakte s technologickou medicínou, ktorá len zachytáva signály. Je desymbolizovaná, a dokonca odľudštená. Vidím v tom aj stratu výsad ľudského druhu, ktoré som už spomínal. To je veľmi nebezpečné.
Prečo?
Pretože ľudia si neuvedomujú, čo je tu v hre. Transhumanistické ideály vstupujú do našej mysle prostredníctvom požiadaviek na zdravý život. Je to mimoriadne škodlivé, pretože každý chce, aby bolo o neho dobre postarané, každý chce žiť dlhšie. Ale otázku, koľko nás to bude stáť, si nekladieme. Nachádzame sa uprostred technologickej eufórie. No ak v nás zostáva ešte trochu narcizmu, musíme si všimnúť tie obrovské symbolické ľudské straty. Zmiznutie narcizmu znamená aj to, že sme pripravení zveriť sa medicíne bez lekára, medicíne, ktorá sa venuje výlučne zberu údajov. Práve tu sa môže živiť nenávisť k sebe samému, nedostatok uspokojivého pocitu zo seba samého, ktorý robí zrkadlo Narcisa zbytočným.
Transhumanistické hnutie vidí spásu vo vede a technologickom rozvoji. Je to jednoduché pokračovanie náboženstiev a politickej angažovanosti, no bez transcendentnosti?
O to vskutku ide. Bolo nám povedané, že veľké príbehy sa skončili. Filozof Jean-François Lyotard použil výraz veľké príbehy na označenie scenárov, ktoré si ľudstvo pravidelne vytváralo v snahe znázorňovať svoju spásu. Dlhý čas bol veľký príbeh náboženský: Boh nás mal zachrániť. Boli sme v slzavom údolí a naše úsilie malo byť odmenené. Posledný súd bol veľkým príbehom, v ktorý sme na Západe dlho verili. Potom však tento náboženský scenár ustúpil do úzadia.
Kedy?
Okolo osemnásteho storočia, keď bol objavený politický príbeh. Mysleli sme, že ľudstvo bude smerovať k šťastiu, k úplnému rozkvetu vďaka univerzálnemu racionálnemu štátu, neskôr vďaka komunizmu. Politika dlho podporovala spásonosný prísľub realizácie ľudských túžob. Dnes už v to neveríme, ani v náboženstvo. Vystriedala ich veda. Transhumanizmus preberá zodpovednosť za celý príbeh. Tvrdí, že obnovuje rozmer časovej evolúcie a nádeje ľudského druhu tým, že doň vkladá rozum prostredníctvom vedy a techniky. Transhumanizmus sa presadil tvrdením, že neexistuje iné riešenie, ako sa zveriť do rúk vedy a techniky, ak chceme plne realizovať túžby ľudí.
Sú o tom aj písomnosti, ako to býva pri náboženstvách či politických hnutiach?
Známa americká správa Technologické konvergencie na zvýšenie ľudskej výkonnosti tým práve začína. Sme v predvečer novej Renesancie. Bude sa vyznačovať tým, že získame systémové poznanie vesmíru. Budeme rozumieť astrofyzike, nanotechnológiám a fungovaniu nášho mozgu. To všetko bude tvoriť systém a umožní nám to, podobne ako v čase európskej Renesancie, zhrnúť poznanie, mobilizovať vedu a technológie, aby sme sa liečili, zabránili starnutiu a napokon aj smrti. Správne teda hovoríte, že je tu rozmer náboženstva, keďže ide o celistvosť a nesmrteľnosť, čo sú jeho charakteristickým znakom.
No bez transcendentnosti...
Áno, sme v kontexte náboženstva bez transcendentnosti, bez sily, ktorá by nám vnucovala normy. Neexistuje božstvo, ktoré by posväcovalo naše úsilie a spásu. Sme v náboženstve bez Boha, čo nie je veľmi nové. Často dávam do súvislosti transhumanizmus a gnosticizmus prvých storočí kresťanstva.
Transhumanizmus sa presadil tvrdením, že neexistuje iné riešenie, ako sa zveriť do rúk vedy a techniky, ak chceme plne realizovať túžby ľudí.
Môžete to bližšie rozviesť?
Gnostici boli tiež v očakávaní renesancie založenej na gnóze, čo je vyššie poznanie. Transhumanisti túto pozíciu obnovujú. Gnostici usudzovali, že Stvorenie bolo neúspešné, že Boh Biblie bol falošný boh, podvodník, ktorý pokazil dielo a nechal nás na holičkách, keďže sme konečné, biologické bytosti. To znamená: trpiace, starnúce a smrteľné. Gnostici teda tvrdili, že ľudstvo je zlyhanie a treba sa ho zbaviť.
Akým spôsobom?
Opustením tela, odvrátením sa od sexu, odmietnutím toho, že sme bytosti s túžbami. Transhumanisti dnes hovoria podobné veci. Že budúcnosť ľudstva spočíva v dematerializácii nášho druhu, v zbavení sa jeho telesnej schránky. Uvažujú nad tým, ako ho môžeme urobiť čoraz menej biologickým a čoraz viac elektronickým. Budeme sa musieť zbaviť aj všetkých prvkov utrpenia. Tie vyplývajú z toho, sme bytosti s túžbami, ktoré stále na niečo čakajú. Nachádzame sa v dobe, v ktorej oživujeme náboženský impulz so spásnou perspektívou, že unikneme pred vlastným osudom.
Transhumanizmus chce zachrániť ľudí, pretože sú neúspešní a nešťastní?
Aby bol transhumanizmus dôveryhodný, musí byť ľudstvo nešťastné, neúspešné. Čím viac sa budeme presviedčať, že ľudstvo nie je dobré, tým viac padneme do náručia transhumanistov. Lebo oni nám povedia, že to môžu napraviť.
Na začiatku dvadsiateho storočia sme začali ignorovať smrť. Pohrebné obrady ustúpili, cintoríny boli vytlačené na okraje miest a tak ďalej. Potom sme prešli k jej odmietaniu. Dnes ju chceme vytesniť, vyhnúť sa jej, prežiť to, čo sa prežiť nedá. Čo sa stalo?
Filozof Edgar Morin to vystihol správne, keď povedal, že existujú dva typy spoločností: holistické a individualistické. V tých prvých sa o smrť starajú kolektívne. Nie je predmetom úzkosti, strašenia, ale je ritualizácie, osláv. Archaické spoločnosti vedia, ako začleniť smrť do života svojich členov. V individualistických spoločnostiach sa kolektívne referenčné body strácajú. Politik a historik prvej polovice devätnásteho storočia Alexis de Tocqueville ukázal, ako sa so zánikom absolutistickej monarchie narušili väzby s ostatnými a ako sa jednotlivec v demokracii ocitol v situácii osamelosti a úzkosti, ktorá ho vedie k tomu, aby sa dožadoval ochrany všemocného štátu. Hlavným predmetom tejto úzkosti je, samozrejme, smrť. Preto všetko, čo môže smrť odstrániť alebo ju urobiť neviditeľnou, je dnes žiaduce.
Je to súčasný stav našich západných spoločností?
Žijeme v spoločnostiach, ktoré sú kvôli technológiám čoraz viac individualistické. Posilňujú individualizmus v podobe konzumu a neobmedzeného používania strojov. Smrť chceme napokon evakuovať z našich životov aj vďaka týmto prostriedkom.
Ako sa to stalo?
Predovšetkým sme smrť navonok silno zjemnili, odňali sme hnusnú tvár smrti. Podrobili sme ju abstraktnému prístupu, ktorý jej dal bezbolestnú tvár. Jednou zo základných charakteristík tejto abstraktizácie je kremácia. Naša židovsko-kresťanská kultúra ju predtým nepraktizovala. Aktuálne je čoraz prítomnejšia na úkor pochovávania. Niekedy sa na obhajobu kremácie uvádzajú ekologické dôvody, ale ide o niečo iné. Naše znenávidenie fyzického tela sa odráža na mŕtvole, ktorá likvidujeme spálením. Smrť sa stala terčom.
Je to mimochodom jeden z hlavných bojov transhumanistov.
Áno, vedia, čo robia, keď predstavujú projekt „zabíjania smrti“, ako hovoria v spoločnosti Calico od Googlu. Zabíjanie smrti osloví a presvedčí každého. Smrť je metonymiou ľudského utrpenia. Z tohto dôvodu budeme voči smrti vždy netolerantní. Faktom zostáva, že v tom, čo tvrdia transhumanisti, je veľa nedorozumení a podvodov.
Aby bol transhumanizmus dôveryhodný, musí byť ľudstvo nešťastné, neúspešné.
S pandémiou sa smrť objavila v živote každého človeka, bez možnosti ju ignorovať, ale laboratóriá našli vakcínu v rekordne krátkom čase. Je to pre transhumanistov vyhratá bitka?
Práve naopak. Som presvedčený, že covid bol pre transhumanistov fackou do tváre. Uvedomil som si to, keď som videl, že niektorí moji transhumanistickí partneri, vrátane lekára Laurenta Alexandreho, sa stali v médiách oveľa diskrétnejší, menej euforickí. Pred pandémiou sa hovorilo len o blížiacej sa nesmrteľnosti. V médiách sa prvé oznámenia techno-vedeckých laboratórií o tejto téme rýchlo rozšírili. Potom prišiel covid a odhalil smrť v jej najodpornejšej podobe. Na uliciach Španielska a Portugalska boli všade vidieť mŕtve telá. Všadeprítomná smrť zrazu okupovala chodby pohotovostí v nemocniciach.
Zmenilo to ich pohľad na vec?
Počas a po covide sa vyhlásenia transhumanistov stali diskrétnejšími a téma nesmrteľnosti takmer trápnou. Hnutie, ktoré ohlasovalo pokrok v medicíne, ktorý nás dovedie k životnosti 150, päťsto alebo tisíc rokov, bolo zrazu nenápadné, takmer zahanbené. Nastalo vyprázdnenie transhumanistického diskurzu a myslím si, že tento stav pretrváva dodnes. Nevidím, že by médiá ďalej preberali argumenty transhumanistov a robili okolo nich veľké haló. Došlo k uvedomeniu si.
Čoho presne?
Zrazu sme objavili krehkosť ľudského druhu, hoci nám hovorili, že to vďaka pokroku napravíme, že sa dokážeme odtrhnúť od všetkého, čo je v nás neisté. Predstavte si: drobný vírus z netopiera ohrozil celú planétu. Tento rozmer planetárnej krehkosti bol pre nás fackou do tváre. Je to nepopierateľná narcistická rana.
Prečo?
Prijať to bolo extrémne náročné. Boli by sme radšej, keby išlo o čínske sprisahanie s cieľom vyrobiť smrtonosný vírus. No vieme, že pochádza zo živočíšnych druhov. Zrazu sme opäť zaradení do všeobecného kolobehu života a vydaní rovnakému smrteľnému osudu ako všetky ostatné druhy. Keď dnes hovoríme o transhumanizme, treba brať do úvahy aj toto sklamanie, vďaka ktorému sa fantázie tohto hnutia stali menej rozšírenými.
Väčšina ľudí verí vo vedu, v jej schopnosť vytvoriť pokrok, udržať smrť na uzde. Čo iné im môžete ponúknuť, keď nie túto nádej?
Samozrejme, že im to musíme ponúknuť. S takýmto želaním musím súhlasiť. Smrť je vždy smrťou druhých. Vlastná smrť je abstrakcia. Slovami stoikov alebo epikurejcov, keď príde moja smrť, ja tu nebudem. Dotýka sa nás smrť druhých, našich blízkych. Odbremenenie ľudstva od tejto ťarchy je úplne legitímna požiadavka. Musíme urobiť všetko pre to, aby sme žili čo najdlhšie a aby smrť bola čo najšetrnejšia. Zákony týkajúce sa eutanázie sa v súčasnosti revidujú. Som úplne za všetko, čo sa navrhuje v oblasti asistovanej samovraždy.
Ide teda iba o to, že transhumanisti preháňajú?
Nemyslím si, že je rozumné alebo dokonca zdravé mať ambíciu zbaviť sa smrti. V tomto som skôr blízky veľkým filozofom. Podobne ako spisovateľ Montaigne hovoria, že smrť musíme skrotiť, žiť s ňou. Často o nej premýšľať, pretože nášmu intelektuálnemu životu dodáva hĺbku a vážnosť, ktoré sú výsadou nášho druhu. Nie sme iba zvieratá, ktoré sa panicky boja predstavy, že zomrú. Sme schopní meditovať o tom, že život je krátky a že má nevyčerpateľné bohatstvo, o čom svedčia kultúrne diela. To najlepšie, čo naša kultúra ponúka, vyplýva zo skutočnosti, že sme smrteľní.
V akom zmysle?
Kým by boli Beethoven, Mozart alebo Proust, keby sme neboli smrteľní? Symbolický život človeka závisí od neúprosnej reality smrti. Môžeme si však položiť otázku: stojí to všetko za to? Nie je toto odvolávanie sa na kultúru, na vnútorný či duševný život len veľmi čiastkovým riešením situácie, ktorú by sme sa mohli napraviť pomocou mechaniky a biológie?
Odpoveď na túto otázku znie ako?
V prvom rade, smrti sa nezbavíme. Z hľadiska uskutočniteľnosti je to slepá ulička. Môžeme vytvoriť nezávislé umelé orgány či banky ústrojov, ktoré nahradia zlyhávajúce orgány. Je tiež možné, že pristúpime ku genomickým manipuláciám, ktoré nám umožnia napraviť mechanizmus bunkového starnutia, napríklad telomerázu. Smrť však neodstránime, preto verme v symbolický rozmer života. Zúčastňujme sa na veľkých kultúrnych podujatiach, ktoré smrti dodávajú hĺbku a niekedy aj veľkosť. No nesnažme sa jej uniknúť tým, že sa budeme spoliehať len na čisto metabolické a biologické aspekty našej existencie.
Smrti sa nezbavíme. Z hľadiska uskutočniteľnosti je to slepá ulička.
Napísali ste knihu o zjednodušenom človeku, ktorý potrebuje stroje, aby mu pomáhali žiť. Nie je príchod umelej inteligencie koncom vývoja ľudského mozgu?
Áno, ale musíme veci presne definovať. Paleoantropológovia hovoria, že náš mozog sa od počiatku ľudstva takmer nevyvinul. Nezväčšil sa, výrazne sa nezmenil. Jeho vývoj je založený na vytváraní synaptických spojov. Práve spôsob, akým sú naše neuróny prepojené, podmieňuje naše kognitívne schopnosti. Čím viac sme kognitívne vyzývaní, tým viac vyzývame náš mozog, aby si vytvoril spoje, ktoré ho robia čoraz zložitejším.
Ako sa to prejavuje?
Mozog tenistu a huslistu je iné, pretože časti, ktoré sú potrebné na tenis, sa líšia od tých, ktoré sú potrebné na hru na husliach. Napriek tomu je otázka, ktorú kladiete, dobrá. Je to o tom, čo sa stane, ak budeme čoraz viac kognitívnych činností delegovať na stroje, a či to nepovedie k strate synaptických spojov, ktoré umožňujú nášmu mozgu tieto činnosti vykonávať.
Predpokladám, že odpoveď je áno.
Je to veľmi jednoduché. Vieme napríklad, že mozog sa čoraz častejším používaním obrazoviek na úkor čítania modifikuje. Kognitívni psychológovia vedia, že hlboké, meditatívne, pomalé, opakované čítanie sa vytráca v prospech akéhosi prelietania textov. Na obrazovkách nečítame rovnakým spôsobom, ako keď sme v kresle čítali Marcela Prousta. Prechodom z hlbokého na povrchné čítanie dochádza k nepopierateľnej modifikácii synaptických spojov. Takže áno, mozog sa mení, keď používame nástroje.
Čo na to hovoria odborníci na mozog?
Neurobiológovia sú pokojnejší. Podľa nich v každodennom živote jednoducho existujú úlohy, ktoré treba splniť. Sú to stimuly pre mozog, ktorý reaguje vhodnou organizáciou. Inými slovami sa prispôsobuje prostrediu. Nemožno tvrdiť, že mozog bol kedysi zložitejší ako dnes, ale len to, že môže byť iný v dôsledku technologizovanejšieho prostredia. Môžem však povedať, že mám radšej stimuláciu mozgu, ktorú som mal, keď som netrávil hodiny pred obrazovkou, ale v knižnici. Bol som v lepšej spoločnosti, oči ma toľko neboleli.
Ale asi si nevyberáme.
Sme v spoločnosti, ktorá si vybrala, alebo sa aspoň nechala viesť určitým smerom, a to vyvoláva požiadavky a podnety, ktoré nie sú také ako pred dvadsiatimi, tridsiatimi či štyridsiatimi rokmi.
Kognitívni psychológovia vedia, že hlboké, meditatívne, pomalé, opakované čítanie sa vytráca v prospech akéhosi prelietania textov.
Prehral človek boj proti strojom, keď sa vzdal sveta ideí a kultúry, aby sa uchýlil do náručia konzumu?
Áno, nastal zlom, keď sme sa prestali vnímať ako racionálne, sociálne bytosti, schopné uvažovať a rozhodovať, a namiesto toho sa stali konzumentmi. Stali sme sa druhom, ktorý je dôležitý len pre to, čo kupuje a spotrebúva. Vďaka konzumu funguje spoločnosť, ktorá následne umožňuje obohacovanie a zamestnávanie ľudí. Táto premena je nezvratná.
Kedy nabrala na obrátkach?
V päťdesiatych a šesťdesiatych rokoch dvadsiateho storočia, keď sa rozvíjali masmédiá a kultúrny priemysel. Bolo potrebné predávať techniku, vysávače a práčky. Pretože to bolo oslobodzujúce, dynamizovalo to priemysel a trh práce. To, čo vojna zničila, bolo potrebné znovu vybudovať, a to sa dialo prostredníctvom výroby nových predmetov, potrieb a túžob. Tie sa stali fetišmi na reaktiváciu ľudskej vitality a naďalej sa rozvíjali.
A dnes?
Postupne sme sa posunuli k spoločnosti, v ktorej sme sa viac ako spotrebiteľmi stali len nositeľmi manipulovateľných, zneužiteľných údajov. Internet sa snaží, aby sme neustále aktualizovali svoj profil, čiže svoje ašpirácie, svoje osobité vlastnosti. Potom nám vnucuje cielenú reklamu, aby sme mohli predvídateľným spôsobom konzumovať v tomto svete výroby a spotreby, o ktorom máme ilúziu, že sme si ho vybrali.
Existujú aj iné faktory rozčarovania?
Áno, mnohé. Svet tiež zažil zlom v tom, ako si reprezentujeme biologickú realitu. V deň, keď sme vynašli genetiku, sme si začali myslieť, že ľudská bytosť nie je nič viac než nádoba s génmi, rovnako manipulovateľná a nahraditeľná ako akýkoľvek iný kúsok informácie. Pre človeka to bola ďalšia narcistická rana. Predtým veril, že je kombinácia duše a tela. Zrazu sa dozvedel, že nie je ničím iným než vrece génov a že bude možné ich dekódovať, využívať a manipulovať s nimi.
Existujú ľudské činnosti, ktorých sa všeobecné sklamanie netýka?
Všade nastalo rozčarovanie. Aj v podobe techno-vedeckých objavov či informačných a komunikačných vied, ktoré sa datujú do konca štyridsiatych rokov dvadsiateho storočia. Najmä kybernetika. Tieto vedy sa rozšírili do všetkých odvetví ľudského bytia: biológie, psychológie, politiky či sociológie. Nachádzame sa v spoločnosti, ktorá neustále narába so signálmi. Už nás to neprekvapuje, žijeme s tým. Kultúrne bytosti, ktorými možno ešte stále sme, by to malo urážať a znepokojovať.
Nie je reč, umenie, láska, všetko, čo je nedokonalé, poslednou baštou proti strojom, ohromujúcemu pokroku a umelej inteligencii?
Ako ľudské bytosti máme symbolickú funkciu, ktorá je extrémne dôležitá. Definujem ju tromi aspektmi. Prvým je, že disponujeme rečou. Umožňuje nám odtrhnúť sa od bezprostrednosti, ktorej zvieratá určite podliehajú. Vďaka nej môžeme povedať veci, ktoré nie sú, napríklad budúcnosť alebo minulosť, podmienenosť. Umožňuje nám zavádzať a klamstvo je pre ľudstvo nepochybne mimoriadne cenné, ako povedali niektorí veľkí myslitelia. Reč je veľmi humanizujúca v tom zmysle, že sa vďaka nej dokážeme vytrhnúť z prirodzenej zotrvačnosti. Urobila z nás bytosti s dejinami.
A druhý aspekt?
Je to skutočnosť, že máme inteligenciu, o ktorej sa už veľmi nehovorí. Venujeme jej pozornosť napríklad vtedy, keď vychovávame deti. Je to protiklad k inštinktu. Umožňuje nám odolať pokušeniu uspokojiť sa bez rozmyslu. Inštinkty sú vždy bezprostredné, táto inteligencia spočíva v schopnosti obísť alebo odložiť bezprostredné uspokojenie.
Zostáva nám tretia vlastnosť.
Sme schopní robiť veci, ktoré sú zbytočné. Napríklad písanie poézie. Táto inteligencia nám umožňuje vzdorovať utilitárnym imperatívom, sociálno-ekonomickým príkazom.
Sú teraz tieto tri aspekty ohrozené?
Áno, digitálna kultúra môže priniesť podkopanie tejto symbolickej funkcie. Vyvíjame technológie, ktoré poškodzujú reč. Stráca sa schopnosť vyjadrovať veci hlbokým spôsobom. Digitálna kultúra rozvíja automatizmy a stroje za každú cenu a nasycuje nás príkazmi, aby sme boli reaktívni a už nie reflexívni. Z utilitárnych a ekonomických dôvodov sa presadzuje všetkými možnými spôsobmi.
Ako sa teda môžeme brániť?
Odpor môže prísť prostredníctvom oživenia symbolickej funkcie, ale agresie digitálneho sveta sú extrémne silné. Preto na konci svojej knihy Zjednodušený človek spomínam literatúru. Píšem tam, že to možno nie je veľa, ale ak by sme sa dokázali vrátiť k cnostiam naznačeným v literárnych dielach, napríklad na univerzitách, nepochybne by sme urobili veľký krok.
Klamstvo je pre ľudstvo nepochybne mimoriadne cenné, ako povedali niektorí veľkí myslitelia.
Akým spôsobom?
Obnoviť spojenie s literatúrou znamená znovu zaviesť vzťah s rečou, reflexiou a pozitívnou bezúčelnosťou, ktoré sú našimi ľudskými výsadami. Je tu veľký priestor, ktorý treba skúmať. Možno by sme nemali byť úplne pesimistickí. V súčasnosti sa literatúre darí celkom dobre. Beletria, ktorá, mimochodom, tiež ťaží z technologických riešení, je stále obľúbená. Takže správne predpokladáte, že umenie je pravdepodobne protipólom rôznych správaní, ktoré nám vnucuje technológia.
Neverím, že umelá inteligencia bude jedného dňa schopná namaľovať strop Sixtínskej kaplnky, skomponovať Goldbergove variácie alebo napísať Kvety zla. Transhumanisti tvrdia opak. Myslíte si, že majú pravdu?
Do istej miery. Niektorí ľudia mi hovoria, že sa mýlim, keď chcem brániť kultúru. Stroje by podľa nich už dokázali vytvárať množstvo kultúrnych objektov. Pretože všetky kognitívne aktivity, podobne ako umenie, sú záležitosťou kombinácií, ktoré možno kvantifikovať a modelovať. Pýtajú sa ma, prečo otravujem ľudí s Mozartom.
Prečo sa pýtajú?
Pretože vďaka strojom budeme môcť vyrábať stovky, dokonca tisíce Mozartov. V tomto technicistickom presvedčení sa úplne stráca zmysel pre výnimočnosť, na ktorú sú umelci viazaní. Vytvoriť dielo, ktoré človek nikdy neuvidí dvakrát, ako viac-menej povedal Charles Baudelaire. Podľa filozofa Waltera Benjamina sme už vstúpili do éry nekonečnej reprodukovateľnosti. Umenie podriadené technológii sa stáva produktom nepretržitej mašinérie, ktorú možno ľubovoľne vyvolávať.
Čo naša schopnosť rozlíšiť strojové a ľudské umenie?
Povedal by som, že je to ako s konverzačnými agentmi. Zatiaľ je stále ľahké rozpoznať umelosť, keď Siri od Applu, Alexa od Amazonu alebo iné zariadenia predstierajú, že sa s nami rozprávajú, akoby sme boli medzi ľuďmi. Stále sme schopní rozlíšiť stroj od človeka, ale bude to čoraz ťažšie. Napokon nás oklamú a budú symfónie, ktoré nás nepochybne dojmú, pričom budú čistým produktom mechanizmov. Je to znepokojujúce, ale ešte tam nie sme.
Naozaj?
Keď počúvame umelo vytvorenú hudbu, keď sa pozeráme na umelo vytvorené obrazy, stále sme schopní postrehnúť určitú strnulosť, repetitívnosť, jemné znaky toho, že nemáme do činenia s ľuďmi.
Napokon nás oklamú a budú symfónie, ktoré nás nepochybne dojmú, pričom budú čistým produktom mechanizmov.
Čo je na ľuďoch v zásade jedinečné?
To, že sú schopní mnohých, mnohých chýb. Na rozdiel od strojov nás charakterizuje nedokonalosť, nedostatky a zlyhania. To je na nás asi to najdojemnejšie. Ide o čisté pocity. Stále sme schopní dostať sa do hĺbky ľudskosti v nás. Musíme byť ostražití a odsúdiť podvod strojov, kedykoľvek sa to dá. Skutočnou otázkou je, do akej miery budú ľudia viazaní na to, čo je v nich ľudské. To je otázka absencie sebalásky zo začiatku rozhovoru, ktorá sa vracia.
V akej podobe?
Ľudia si sami seba naďalej málo vážia a majú tendenciu zveriť strojom náhradu svojej vnútornej biedy. To isté platí aj pre umenie. Aj keď ešte stále chodíme do múzeí alebo na koncerty, vidím, že ľuďom sa páčia čoraz jednoduchšie veci. To, čo nemáme radi, je odpor, ktorý niekedy kladie realita. Vysvetľuje to, prečo inklinujeme k virtuálnemu svetu, k technológiám a metaverse. Pretože umenie odoláva, dielo odoláva, zahŕňa komplexnú realitu, ktorú nemožno odstrániť.
Máme teda ísť proti sebe?
Áno. Keď čítam veľké dielo, venujem mu čas, pretože nie vždy je ľahké vstúpiť do autorovho sveta. Prechádzam si ho niekoľkokrát, znovu čítam určité pasáže. Práve táto netolerancia k odporu čoraz viac charakterizuje našich súčasníkov a znamená, že ak ich dielo nezaujme do troch sekúnd po otvorení, prejdú na niečo iné. Žijeme v spoločnosti neustáleho prepínania. Umenie nás môže zachrániť, iba ak že sme presvedčení o tom, že rastieme vďaka odporu, a nie vďaka plynulosti a virtualite.
Na rozdiel od strojov ľudí charakterizuje nedokonalosť, nedostatky a zlyhania. To je na nás asi to najdojemnejšie.
Ako sú na tom prekladatelia, ktorí sa pohybujú medzi dvoma nedokonalými svetmi, ktorými sú jazyky? Milovníci umelej inteligencie predpovedajú ich zánik v prospech strojov, ale zatiaľ sú stále tu.
Patrím do francúzskeho Pen Clubu, ktorý združuje autorov, prekladateľov, spisovateľov a esejistov. Som úplne presvedčený, že prekladateľ je tvorcom. Nielenže je nenahraditeľný, ale je samotnou podmienkou všetkej literárnej tvorby. Kto si to nemyslí, opäť obmedzuje reč na systém signálov a predstavuje si, že logické výpočtové stroje vytvoria prekladateľské dielo bez zaujatosti a ducha. Veľmi dobre však vieme, že prekladateľ je človek, ktorý sa zameriava na ducha, a nie iba na prevod litery, z jednej lexiky do druhej či z jedného jazyka do druhého. Je to výsostne duchovná a symbolická činnosť a prekladateľ je okrem toho, že je symbolom ohrozenia našej symbolickej funkcie, aj symbolom odporu, ktorý musíme presadzovať.
Ako vnímate ich osud?
Veľmi pozorne sledujem všetko, čo sa dnes robí v prospech myšlienky, že preklad nemôže byť automatický, že je vždy intelektuálny, duchovný alebo filozofický. Páčilo sa mi, keď Umberto Eco povedal, že Európa je preklad. Preklad sa vždy zaoberá nepreložiteľným, pretože neprevádzate A do B, neprevádzate jednu kultúru do druhej, jednoducho rokujete o kompatibilite, koexistencii kultúr, lexík a mentálnych reprezentácií.
