Umělá inteligence umí mluvit hlasem zesnulých. Odborníci bijí na poplach

Promluvit si znovu s člověkem, který zemřel, ještě donedávna patřilo do science fiction. Umělá inteligence však tuto představu mění v dostupnou službu. Chatboti pro pozůstalé dokážou napodobit způsob vyjadřování zesnulého, odpovídat jeho jménem a vytvořit dojem, že rozhovor pokračuje i po smrti.

Nová studie ukazuje, že pro některé lidi může být podobná zkušenost překvapivě uklidňující. Nevadí jim přitom ani to, že si systém občas něco vymyslí. Mnohem důležitější je, zda chatbot zachytí tón, slovník a způsob komunikace člověka, kterého má napodobovat.

Pocit skutečného rozhovoru

Výzkum vznikl na Coloradské univerzitě v Boulderu a zapojilo se do něj 16 lidí, kteří přišli o někoho blízkého. Každý předem poskytl stručný popis zesnulého, vysvětlil svůj vztah k němu a popsal jeho typický způsob komunikace. Účastníci si poté během přibližně dvacetiminutového videohovoru psali se dvěma systémy. První vystupoval přímo jako zesnulý a používal první osobu. Druhý o něm mluvil ve třetí osobě a fungoval spíše jako prostředník.

První varianta působila intimněji a bezprostředněji. Druhá naopak vedla více ke vzpomínání a přemýšlení o minulosti. Celkově však účastníci hodnotili oba způsoby převážně pozitivně. Jeden z nich měl pocit, jako by skutečně mluvil se svým dědečkem. Jiná účastnice, která přišla o matku, popsala rozhovor jako možnost konečně uzavřít něco, co v ní dlouho zůstávalo nedořešené.

Podle spoluautora výzkumu Jacka Manninga přicházeli dobrovolníci s konkrétním cílem. Někteří chtěli položit otázku, na kterou nikdy nedostali odpověď. Jiní se potřebovali podělit o událost, kterou už zesnulému nestihli vyprávět. Překvapivě málo jim vadily faktické chyby. Chatbot si například někdy vymyslel zaměstnání, které dotyčný nikdy nevykonával, ale rozhovor přesto pokračoval. Mnohem rušivější byly chyby ve stylu.

zdroj: Profimedia.cz

Pokud zesnulý běžně používal emotikony, slang nebo určité regionální výrazy, jejich absence působila nevěrohodně. V jednom případě systém zvolil oslovení, které by podle účastníka jeho blízký nikdy nepoužil. Spoluautor studie Jed Brubaker upozornil, že přesné datum narození může být méně důležité než správně zvolený slovník. Právě drobné jazykové návyky totiž vytvářejí dojem, že za zprávami skutečně stojí známý člověk.

Pomoc při truchlení, nebo past?

S rostoucí dostupností podobných služeb se objevují vážné etické otázky. Zatímco komerční systémy už dokážou vytvářet textovou, hlasovou i obrazovou podobu zemřelého, jejich dlouhodobé psychologické dopady zůstávají málo prozkoumané. Samotná studie probíhala pod dohledem. Odpovědi chatbota kontroloval výzkumník, než je předal účastníkovi. Tím se snižovalo riziko necitlivých, klamavých nebo škodlivých reakcí.

V běžném prostředí však podobná ochrana často chybí. Prakticky kdokoli může požádat umělou inteligenci, aby napodobila konkrétního zemřelého člověka. Není přitom jasné, jaká pravidla by měla platit ani kdo by nesl odpovědnost za případné následky. Obavy měli i účastníci studie. Někteří připustili, že by si k systému mohli vytvořit příliš silnou citovou vazbu. Dlouhodobé používání by podle nich mohlo vést k závislosti nebo oddalovat přijetí skutečnosti, že blízký člověk už nežije.

Technologická etička Nora Lindemannová z Osnabrücké univerzity varuje, že podobné nástroje mohou narušit přirozený proces truchlení. Člověk podle ní může zůstat v mezistavu, v němž se nemusí plně přizpůsobit životu bez zesnulého. Osobní zkušenost má i Jack Manning. Jeho třináctiletá sestra zemřela, když mu bylo jedenáct let. Přestože chápe, proč mohou být digitální napodobeniny pro pozůstalé přitažlivé, sám by se svou sestrou v této podobě mluvit nechtěl. Obává se, že by systém mohl narušit vzpomínku, kterou si na ni uchovává.

Právě proto považuje za důležité zkoumat technologii dříve, než její vývoj ovládnou pouze komerční firmy. Bez dostatečných pravidel by totiž mohly vznikat produkty určené lidem v psychicky zranitelném období, aniž by někdo znal jejich dlouhodobé dopady. Studie přesto naznačuje, že pečlivě navržené systémy mohou mít své místo. Mohou nabídnout prostor pro poslední otázku, nevyřčenou větu nebo vzpomínku, kterou si člověk potřebuje znovu prožít.

Umělá inteligence nedokáže zesnulého vrátit ani nahradit skutečný vztah. Může však vytvořit velmi přesvědčivou iluzi jeho přítomnosti. A právě v tom se skrývá její největší síla i největší nebezpečí.