Digitální napodobeniny kdo smí mluvit za skutečného člověka

V poslední hlasové zprávě blízkého člověka slyšíte větu, kterou skutečně řekl. V jeho generované napodobenině můžete uslyšet větu, kterou nikdy nevyslovil. Tento rozdíl je základem rozhodování o službách, které nabízejí „digitální návrat“.

Archiv, záznam a generovaná odpověď

Fotografie, dopis nebo původní nahrávka zachycují něco, co člověk skutečně vytvořil. Interaktivní rozhraní může vyhledat jeho zaznamenanou odpověď. Generativní napodobenina naproti tomu vytváří také nové věty. Podobnost stylu či hlasu z nich nedělá skutečné vyjádření zobrazovaného člověka.

V modelové situaci pozůstalá uslyší otcovým hlasem, že jí odpouští dávný konflikt. Může ji to silně zasáhnout. Pokud ale větu vytvořil systém, není dodatečně objeveným záznamem otcova rozhodnutí. O tom, co si myslel, nám tato odpověď nic nedokládá.

Podobně nelze od napodobeniny odvozovat nové pokyny k dědictví, rodinným vztahům nebo léčbě. Praktický problém není jen v možné faktické chybě. Je také v tom, komu přisuzujeme autorství a autoritu.

Kdo s takovým setkáním souhlasí

Touha ještě jednou slyšet známý hlas je pochopitelná. Před setkáním s jeho napodobeninou potřebujete vědět, zda uslyšíte skutečný záznam, nebo nově vytvořená slova. Také rozhodnutí, zda se do takového kontaktu pustíte, patří vám.

Etická analýza Hollanka a Nowaczyk-Basińské z roku 2024 rozlišuje osoby, jejichž data se používají, držitele těchto dat a lidi, kteří se simulací komunikují. Doporučuje srozumitelnost, souhlas a možnost citlivého ukončení. Jde o etickou práci s modelovými scénáři, nikoli o klinické ověření, zda simulace truchlení léčí nebo zhoršují.^[1]

Archiv skutečných vzpomínek, vyhledávání původních nahrávek a rozhovor s generující napodobeninou jsou různé zkušenosti. Jejich účinky nemůžeme pokládat za stejné; digitální napodobeninu tu nedoporučujeme jako léčbu ztráty. Před jejím vytvořením si ujasněte, co bude uchováno, kdo to smí používat a zda příjemce o takový kontakt stojí.

Nedávejte simulaci zemřelého jako nečekaný dárek. Možnost kontakt odmítnout je stejně důležitá jako možnost ho navázat. U dítěte bychom generující napodobeninu rodiče nenabízeli jako jeho pokračující autoritu ani jako preventivní či léčebnou pomůcku.

Žijící lidé mají hranice také

Digitální podoba bývalého partnera nebo spolužáka otevírá jinou otázku souhlasu. Skutečný člověk může kontakt odmítnout, zatímco vytvořená postava odpovídá podle zadání uživatele. Její vstřícnost nic neříká o vůli skutečného člověka.

Není vhodné používat napodobeninu k „trénování“, jak prolomit jeho odmítnutí, nebo k získávání domnělých informací o jeho pocitech. Respekt k lidské hranici se neztrácí tím, že lze vytvořit jinak reagující digitální podobu.

Zasažen může být i člověk, který AI nepoužívá

Falešná intimní fotografie, podvržená hlasová zpráva nebo vymyšlená konverzace mohou zasáhnout pověst a bezpečí skutečného člověka. Při takové situaci nezačínejte debatou, zda je obrázek „jen umělý“.

Pomozte zasaženému najít podporu a použít hlášení služby. Zaznamenejte například adresu příspěvku, účet a čas. Materiál zbytečně neposílejte dalším lidem. U sexuálního obsahu zobrazujícího dítě si nevyžadujte další kopie ani ho nerozesílejte jako důkaz po škole; postup konzultujte s příslušnou odbornou službou nebo policií. Doporučení k obrazovému zneužívání zahrnují i materiály vytvořené či upravené pomocí AI.^[2]

Při vydírání nebo bezprostředním ohrožení nečekejte na výsledek automatické analýzy. Kontakty na pomoc platí i pro situaci, která začala digitálně.