ROZHOVOR Poznať dátum svojej smrti. Predpovede bez kontextu sú nebezpečné pre psychiku

ROZHOVOR Ak niekomu povieme iba to, že čoskoro zomrie, ide o zbytočnú informáciu

ROZHOVOR Kalkulačka smrti. Treba ľuďom vysvetliť, ako funguje

Vivien Cosculluela

Na prestížnom vedeckom portáli Nature prednedávnom vyšla <a rel="noopener" href="https://www.nature.com/articles/s43588-023-00573-5" target="_blank">štúdia o umelej inteligencii life2vec</a>, ktorá dokáže spoľahlivo predpovedať pravdepodobnosť úmrtia človeka v blízkej budúcnosti. Ako sa to výskumníkom podarilo? Najprv bolo treba zhromaždiť obrovské kvantum dát. Vedci použili informácie z rokov 2008 až 2015 o šiestich miliónoch Dánov. Zahŕňali ich kompletnú anamnézu, povolanie, príjem, pracovný čas, miesto bydliska či rodinný stav. Sústredili sa na skupinu stotisíc ľudí vo vekovom rozpätí 35 až 65 rokov, pričom polovica z nich od roku 2016 zomrela. Umelá inteligencia to, samozrejme, nevedela. Bádatelia jej prikázali, aby na základe dát z rokov 2008 až 2015 predvídala, kto zomrie do štyroch rokov od ukončenia zberu údajov, čiže medzi rokmi 2016 a 2020. Overili, či predpoveď zodpovedá skutočnosti. Výsledok uhádla správne v 78,8 percenta prípadov. Podrobnosti pre PLUS 7 DNÍ exkluzívne vysvetlil <a rel="noopener" href="https://scholar.google.com/citations?user=60I1M-oAAAAJ&amp;hl=en" target="_blank">Germans Savcisens</a>, hlavný autor štúdie a výskumník na Katedre aplikovanej matematiky a informatiky Dánskej technickej univerzity.

Vaša umelá inteligencia life2vec vychádza z dát o dánskej populácii. Je použiteľná aj pre akúkoľvek inú krajinu za predpokladu, že máte rovnaké údaje?

Je ťažké s istotou povedať, ako dobre by model fungoval mimo Dánska. Tu sú mnohé služby súvisiace so zdravotníctvom bezplatné, takže bez ohľadu na váš príjem môžete navštíviť lekára tak často, ako potrebujete. V USA to tak napríklad nie je, čo môže mať vplyv na to, ako často ľudia chodia do ambulancií, a teda aj na to, ako vyzerá ich anamnéza. Tieto nuansy môžu ovplyvniť výkonnosť modelu v iných krajinách.

Skúsilo sa niečo podobné pri iných výskumoch?

Áno. Viacerí vedci ukázali, že zistenia o zdraví a práci založené na údajoch danej európskej krajiny možno aplikovať inde, na základe dát iného štátu spoločenstva. Pri našom modeli však musíme túto možnosť preskúmať viac, než ju potvrdíme alebo vyvrátime.

Bolo by pre človeka psychologicky nebezpečné poznať dátum svojej smrti?

Predpovede bez kontextu sú nebezpečné pre psychiku. Ich interpretácie sú nevyhnutné. Ak model niekomu povie iba to, že zomrie v priebehu nasledujúcich štyroch rokov, ide o zbytočnú informáciu, ktorá tejto osobe len pridá starosti.

Ak je predpoveď založená na skutočnosti, že dotyčný človek pracuje v nebezpečnom prostredí, môže podniknúť kroky, ako napríklad používať zariadenie, ktoré ho bude lepšie chrániť, či hľadať inú robotu.

Čo by mal človek vedieť pred tým, ako sa teoreticky dozvie od vášho modelu, či čoskoro zomrie?

Je dôležité informovať ľudí o tom, ako bol model vycvičený a aké informácie používa na vytváranie predpovedí. Zahŕňa komplexnú pracovnú históriu a celú anamnézu človeka. Nezohľadňuje však iné faktory, napríklad stravovacie návyky alebo každodenné fyzické aktivity, ktoré tiež môžu prispievať k pravdepodobnosti predčasného úmrtia.

Vy ste teda pracovné a zdravotné dáta pretavili do predpovede o smrti. Dokáže life2vec aj niečo iné?

Pri vývoji life2vec sme vynaložili značné úsilie na vytvorenie modelu, ktorý dokáže poskytnúť platné interpretácie spomínaných údajov. Ďalší výskumníci ich môžu používať na skúmanie iných súvislostí medzi úmrtnosťou a pracovnou či zdravotnou históriou. No nie je to všetko, ostatní bádatelia môžu rozšíriť jeho možnosti na skúmanie úplne iných javov.

To, že váš model budú používať iní vedci, vám pomôže?

Áno, budeme môcť vyhodnotiť jeho spoľahlivosť. Keď sme analyzovali naše interpretácie spojené s úmrtnosťou, zistili sme, že sa zhodujú so závermi iných výskumníkov, čo dokazuje, že life2vec sa nerozhoduje náhodne.&nbsp;

Vaša kolegyňa profesorka Eliassi-Rad povedala, že „zmyslom life2vec je byť použitý ako základ pre budúci výskum, nie je cieľom sám osebe“. O čo teda ide?

Mohol by to byť skvelý nástroj na formovanie verejných politík a rozhodovať o zmenách. Naša práca je iba dôkaz, že sa takéto niečo dá. Navrhli sme nový spôsob práce s údajmi a ich analýzy a ukázali sme, že model dokáže poskytnúť presné predpovede. Keďže ide o novú metódu, musíme ju dôkladne preskúmať. Musíme zistiť, nakoľko je bezpečná a spoľahlivá.

Doteraz sme preskúmali obmedzený počet aspektov. Napríklad ako model funguje pre ľudí rôzneho veku, a zistili sme, že pri starších ľuďoch je menej presný a že funguje lepšie, keď robí predpovede pre ženy.

Takže musíte ho testovať a hľadať chyby.

Áno, musíme sa pozrieť na ďalšie skupiny. Čo ak model systematicky poskytuje zlé predpovede pre ľudí s nízkym príjmom? Znamenalo by to, že diskriminuje. Musíme zistiť, aké sociálne predsudky sa naučil, nakoľko je spravodlivý. Nevieme, aké slepé miesta môže mať.&nbsp;

Čo ak sa nesprávne naučil, že sezónna chrípka zvyšuje pravdepodobnosť úmrtia o 70 percent? Predtým, ako vlády budú môcť model použiť na formovanie politík, musíme sa uistiť, že nemá kritické slabiny a nediskriminuje žiadne skupiny.

Profesorka Eliassi-Radová uviedla aj to, že „model by sa nemal používať na predpovedanie pri skutočných ľuďoch“. Nakoľko je etická otázka dôležitá?

Veľmi a dúfam, že naša práca podporí diskusiu o tom, ako by sa umelá inteligencia mala používať v súkromnom a verejnom sektore.&nbsp;

Existuje mnoho zlých príkladov, keď vlády využívajú umelú inteligenciu bez auditu alebo regulácie. Vláda Spojených štátov použila algoritmus Compas, aby odhadovala, či osoba znovu spácha trestný čin. Výskumníci neskôr zistili, že systém vždy priraďoval vyššiu pravdepodobnosť recidívy ľuďom iného ako kaukazského typu a často prehliadal bielych delikventov.

Problémom je, že tamojšia vláda stále nemá rámec na hodnotenie bezpečnosti systémov umelej inteligencie.

No vlády to môžu využívať aj inteligentne a citlivo, nie?

Áno, uvediem hypotetický príklad z našej práce. Model life2vec priraďuje vyššiu pravdepodobnosť úmrtia ľuďom s psychickou diagnózou. Vlády by teda mohli poskytnúť väčšieho objemu finančných prostriedkov na psychologickú alebo psychiatrickú pomoc. Zložitejšie to začína byť, keď ľudia používajú štatistické modely na

ROZHOVOR Poznať dátum svojej smrti. Predpovede bez kontextu sú nebezpečné pre psychiku

Vivien Cosculluela

Plus TV

Novinár nie je sudca. Nálepkovanie je forma extrémizmu

Peter je závislý na opiátoch a alkohole, bol vo väzbe. Čo odkázal ľuďom, ktorí chcú brať drogy?

Tomáš Demo z Highgate Group: Due diligence odhalí aj skryté riziká pri kúpe firmy

Výber pre vás