Cez víkend bleskovou rýchlosťou na internete zvirálnela fotka pápeža Františka (86) v bielej páperovej bunde. Väčšine používateľov sa páčila, chválili Svätého Otca za štýlovosť. Malo to však chybu krásy, záber nebol skutočný, vygeneroval ho program umelej inteligencie (AI) Midjourney.
„Len som si myslel, že by bolo vtipné vidieť pápeža v zábavnej bunde,“ povedal pre BuzzFeed News Pablo Xavier (31), stavbár zo Chicaga, ktorý vytvoril s pomocou AI foto pápeža, ktorá oklamala svet. Nachytať sa dala aj americká modelka Chrissy Teigen (37). „Myslela som si, že záber je skutočný, vôbec som nezapochybovala. Nemám žiadnu šancu prežiť technologický vývoj,“ napísala na Twitteri.
Vybuchlo to
Bývalý redaktor BuzzFeed News Ryan Broderick to po falošných fotkách ako amerického prezidentka Donalda Trumpa zatýka polícia nazval „prvým skutočným prípadom dezinformácií AI na masovej úrovni“.
Pablo pre BuzzFeed News prezradil, ako vlastne fotky pápeža vznikli. „Snažím sa vytvárať zábavné a psychedelické veci. Došlo mi, že by som mal vytvoriť niečo s pápežom. Potom to už išlo samo,“ opisuje Pablo, ktorému napadlo vytvoriť foto pápeža v bunde značky Balenciaga, ako kráča ulicami Ríma či Paríža.
Keď Pablo uvidel takého obrázky pápeža, zdali sa mu dokonalé. Zverejnil ich na facebookovej stránke AI Art Universe a potom na Reddite. Z toho, ako obrázky zvirálneli, zostal v šoku. „Nechcel som, aby to tak vybuchlo,“ priznáva. Podľa Pabla je „desivé“, že ľudia si o obrázkoch mysleli, že sú skutočné a vôbec ich nespochybňovali. Keď Pablo videl, že obrázky využívajú kritici katolíckej cirkvi, začal sa cítiť zle. On sám proti pápežovi nič nemá, mali to byť len vtipné obrázky, nič viac.
Kontroverzia okolo obrázkov pápeža deklaruje potenciálny vplyv fotiek generovaných AI. „Predtým som o tom nepremýšľal, ale ak sa nepríjmu zákony, ktoré to budú regulovať, raz to bude mať vážny dopad.“ Pablo sa zamýšľa, že červenou čiarou by mohlo byť používanie AI pri generovaní obrázkov verejne známych osobností.
Ako sa neoklamať
Odborný asistent mediálnych štúdií v Queens College v New Yorku, Jamie Cohen, hneď vedel, že snímky pápeža nie sú skutočné. Nielen preto, že pápež by si nikdy neobliekol značkovú bundu za 3-tisíc eur. „Ak ste videli dostatok obrázkov vytvorených umelou inteligenciu, rýchlo získate predstavu, čo je a čo nie je skutočné.“ Pre Washington Post prezradil, ako spoznať, že ide o „fake“. AI má totiž problém s rukami. Ak sa pozriete na prsty, sú znetvorené, je to tak aj v prípade snímok pápeža Františka.
„Tieto nereálne pápežove fotografie sú dobrým vstupným bodom, aby sme začali rozvíjať v tejto oblasti určitý druh gramotnosti. Je totiž možné, že nás obrázky vytvorené umelou inteligenciou raz zničujúcim spôsobom oklamú,“ varuje Cohen. Ako si ľahko domyslieť, takéto obrázky sú totiž „žrádlom“ pre dezinfoscénu.