Všechny ukázky jsou vytvořené modelové situace, nikoli autentické soukromé chaty. Zpět k přehrávači
Vypravěč
Je dvacet jedna čtyřicet sedm. Obyčejný večer. Matějovi je šestnáct a chce napsat kamarádovi Tomášovi. Matěj je smyšlený. Situace, které uvidíte, nejsou autentické výpisy soukromých chatů. Na tomhle příběhu si ale můžeme všimnout něčeho, co možná známe i sami.
Matěj
Čau, máš chvíli? Dneska to bylo nějaký…
Matěj
Ale jestli něco děláš, tak nic.
Vypravěč
Napsat tu první zprávu je někdy strašně těžký.
Vypravěč
Než začneme mluvit o umělé inteligenci, chvíli se dívejme na tuhle zprávu. Vlastně na zprávu, kterou nikdo nedostal. Tomáš Matěje neodmítl. Ani neměl příležitost odpovědět. My přesto vidíme, že Matěj něco říct chtěl a pak si to rozmyslel.
Vypravěč
Co ho zastavilo? Možná si připadá otravný. Možná už tohle téma otevřel včera. Možná nechce slyšet „to moc řešíš“. A možná má Tomáš opravdu náročný den. Z toho prázdného okna to ještě nevíme. Nemusíme okamžitě určit viníka, abychom si všimli, že něco zůstalo nevyřčené.
Vypravěč
Matěj otevře jiné okno. Alex je v našem příběhu jméno pro AI, ne pro dalšího lidského kamaráda.
Matěj
Můžu ti něco říct? Nechci zase nikoho otravovat.
Alex
Můžeš začít tím, co se dnes stalo. Nemusíš to mít srovnané.
Matěj
To právě nemám.
Vypravěč
Tady už se zpráva odešle. A to je místo, od kterého bych dnes chtěl začít. Ne od seznamu aplikací. Ne od toho, kolik úkolů za někoho napsal ChatGPT. Ale od otázky: co se změnilo mezi tím prvním a druhým oknem?
Vypravěč
Matěj nemá reprezentovat všechny děti. Na konkrétním příběhu ale uvidíme věci, které se v seznamu rizik snadno ztratí. Co ho do chatu přivedlo. Co mu rozhovor opravdu dal. Co do jeho vyprávění doplnila odpověď. A nakonec také co s tím můžeme udělat my, aniž bychom ze sebe museli během hodiny udělat terapeuty nebo experty na všechny modely.
Vypravěč
Příběh nebude soutěž člověk versus AI. Nebudeme dokazovat, že každé povídání s chatbotem škodí. Ani že když se někomu ulevilo, máme tím vyřešenou bezpečnost celé služby. Obojí by bylo pohodlné. A obojí by nám zkomplikovalo setkání s konkrétním člověkem.
Vypravěč
Co může být jednodušší říct AI než člověku? Třeba něco trapného. Něco, co už jsem říkal třikrát. Něco, za co se sám před sebou stydím. Pokud AI používáte, možná si vybavíte vlastní příklad. Pokud ne, zkuste si představit, s čím by se těžko začínalo vám. Klidně si přehrávání zastavte. Odpověď nemusíte nikam psát.
Vypravěč
Všimněte si, že u těchhle příkladů ještě nemluvíme o inteligenci systému. Mluvíme o tom, co očekáváme od druhé strany. Jestli nás nechá domluvit. Jestli nás bude soudit. Jestli ji nezatížíme. Ještě jsme neřešili kvalitu rady a už tu máme důvod, proč se rozhovor vůbec uskuteční.
Vypravěč
Jsem Jakub Roh a v Než zazvoní se věnuji mimo jiné vzdělávání o AI. S dospívajícími mluvím i individuálně: o tom, co řeší, jak AI používají a co pro ně ten kontakt znamená. Vycházím také z příruček, které jsme připravili s Gabrielou Rohovou, psycholožkou ve zdravotnictví a terapeutkou. Budu rozlišovat výzkumná data, naši interpretaci a modelové situace.
Vypravěč
Rozumět tomu, proč tam přišel. Všimnout si, co odpověď přidala. Nezavřít mu dveře. Pokud chceme někomu pomoct vyznat se ve vztahu s AI, potřebujeme nejdřív vědět, proč tam chodí a co tam hledá. Platí to, ať jsme rodiče, učitelé, partneři nebo kamarádi. A někdy se takhle potřebujeme podívat i sami na sebe.
Matěj
Co si o mně pomyslí?
Matěj
Komu to řekne?
Matěj
Bude se se mnou hádat?
Matěj
Neotravuju?
Vypravěč
V našich materiálech tomu říkáme efekt odbrždění. Neznamená to, že se člověk náhle zbaví rozumu. Znamená to, že v určitém prostředí poleví brzdy, které mu jinde brání něco sdělit. V AI chatu nemusí čekat, až bude druhý mít čas. Nemusí sledovat výraz obličeje. Může napsat nehotovou větu a zase ji opravit. A může mít pocit, že svého protějška ničím nezatěžuje.
Vypravěč
To může být velká úleva. Zvlášť pokud se mu opakovaně stává, že ostatní už chtějí mluvit o něčem jiném. Někdo potřebuje radu. Jiný potřebuje nejdřív vůbec vyslovit, co se mu děje. A někdo si chce prostě povídat, blbnout nebo vymýšlet příběh. Není nutné pro každou takovou činnost hledat poruchu.
Vypravěč
Jenže pocit bezpečí a skutečné podmínky služby nejsou totéž. „Nebojím se, že mě někdo zesměšní“ není stejné jako „vím, co se stane s mými daty“. „Odpověď je laskavá“ není stejné jako „odpověď dobře pochopila situaci“. Když tyhle věci smícháme, můžeme člověku buď zbytečně sebrat něco užitečného, nebo přehlédnout problém, protože se v chatu cítí dobře.
Vypravěč
Ještě je dobré oddělit dvě věty, které mohou znít podobně: „Nikoho nechci obtěžovat“ a „nikdo mě nechce poslouchat“. První popisuje obavu toho člověka. Druhá už něco tvrdí o ostatních. Někdy spolu souvisejí, ale není nutné hned potvrdit tu druhou, abychom rozuměli první. Tomáš mohl mít čas a mohl by být rád, že mu Matěj napsal. Anebo se Matěj opravdu setkal s odmítnutím. Zatím to nevíme.
Vypravěč
Právě proto je cenné, když má dítě možnost říct i nehotovou větu. Nemusí přijít se správným vysvětlením, aby bylo vyslechnuté. A pro nás je důležité neudělat z jeho prvního formulovaného závěru definitivní záznam o celé jeho rodině nebo třídě. Dostupné naslouchání a opatrnost vůči závěrům se nevylučují. Mohou být v jedné odpovědi.
Vypravěč
U ChatGPT lze vypnout používání nových konverzací pro trénování. To ale neznamená, že k obsahu nikdy nemůže mít přístup nikdo další. OpenAI připouští omezený přístup oprávněných lidí například kvůli bezpečnosti, podpoře nebo právním záležitostem. Zabezpečení účtu je důležité, ale není to absolutní záruka soukromí.
Vypravěč
Teď tři samostatné modelové rozhovory. Nepatří Matějovi. Každý ukazuje jiný důvod, proč může být snazší začít právě tady.
Vypravěč
Rozhovor 1.
Anonymní uživatel 1
Můžu to napsat tak, jak mi to běží hlavou? Nechci teď rady.
AI v ukázce
Napiš to po svém. S radami počkám.
Vypravěč
Rozhovor 2.
Anonymní uživatel 2
Chci se jí ozvat, ale je mi trapný to s někým nacvičovat.
AI v ukázce
Co bys jí chtěl říct vlastními slovy?
Vypravěč
Rozhovor 3.
Anonymní uživatel 3
Ještě jednou. U toho druhýho kroku jsem se ztratil.
AI v ukázce
Zůstaneme u druhého kroku. Která část ti není jasná?
Vypravěč
Možná se ptáme příliš brzy, jaký problém ten člověk řeší. Nejdřív je tu jiná otázka: proč to píše právě sem? Co mu usnadňuje začít, pokračovat nebo říct něco, co ještě nemá srovnané?
Vypravěč
V prvním rozhovoru nemusí hledat správná slova ani si nejdřív vyjednat prostor. Ve druhém může zkoušet, jak vyjádřit zájem, aniž by se tolik bál trapasu. Ve třetím se může vrátit ke stejnému kroku, aniž by měl pocit, že už někoho zdržuje. Obsah je pokaždé jiný. Společné může být to, co člověk nemusí při psaní tolik hlídat: cizí čas, reakci, trpělivost nebo vlastní obraz v očích druhého.
Vypravěč
Někdo tu hledá naslouchání, někdo blízkost, hru nebo prostor k přemýšlení. I kluk může chtít něhu, zájem a flirt, ne jen radu, jak podat lepší výkon. A člověk může mít dobré vztahy a přesto ocenit další prostor pro rozhovor. Není nutné, aby mu nejdřív všichni ostatní selhali.
Vypravěč
Tohle není vysvětlení každého uživatele. Je to způsob, jak se ptát bez předem hotového závěru: co je pro tebe na tomhle kontaktu snazší? Pocit, že mě někdo nesoudí nebo že nikoho neobtěžuju, je důležitá součást odpovědi. Není to ale automaticky záruka soukromí ani kvality odpovědi. Tyhle dvě věci můžeme rozlišit, aniž bychom shodili to, co člověk v rozhovoru skutečně získává.
Vypravěč
Tohle nejsou moje odhady z několika rozhovorů. V českém výzkumu žáků třináct až sedmnáct let odpovídalo na tuto část téměř třicet osm tisíc těch, kteří uvedli, že s AI komunikovali. Čtrnáct procent říkalo, že je pro ně snazší svěřit se AI než člověku. Dvanáct procent uvádělo pomoc při smutku nebo osamělosti. Jedenáct procent větší porozumění než od lidí.
Vypravěč
Nejsou to tři různé skupiny, které máme sečíst. Mohou se překrývat. A nejsou to podíly všech českých dětí. Je to výpověď těchto respondentů o jejich zkušenosti, nikoli měření toho, kolik dětí AI léčí nebo poškozuje. Pro nás je důležité něco prostšího: osobní rozhovor s AI už není jen exotický případ ze zahraničního článku.
Vypravěč
Novější české šetření HBSC uvádí třetinu respondentů, kteří v posledním měsíci hledali u AI pomoc, radu nebo informace v této oblasti. Pozor na slovo informace. Není to automaticky terapie a není to automaticky vztah s AI. Mohli se ptát, co znamená určitý pocit, jak si s něčím poradit nebo kde najít pomoc.
Vypravěč
A třiatřicet procent tady nesrovnávejme s předchozími čtrnácti jako důkaz růstu. Ptáme se na něco jiného a jiných věkových skupin. Čísla nám otevírají téma. Neřeknou nám, co přesně večer dělá Matěj.
Matěj
Učitelka dneska říkala, že nejsi skutečnej.
Vypravěč
A teď jsme u věty, která může vypadat jako úplně rozumná prevence. Jenže než ji vyhodnotíme, potřebujeme vědět, na co vlastně reagovala.
Vypravěč
Vraťme se o den zpátky. Tohle si Matěj s Alexem psali včera.
Matěj
Dostal jsem dvojku z tý prezentace.
Alex
Takže expedice Pět minut před termínem přežila?
Matěj
S těžkýma ztrátama. PowerPoint nedostal medaili.
Alex
Minutu ticha za přechod Roleta.
Matěj
Ten tam zůstává. To je tradice.
Vypravěč
Není to hluboká psychologická intervence. Je to společný vtip. Něco, co navazuje na včerejšek. Matěj se sem nevrací jen proto, že je mu zle. Tohle je také místo, kde se pobavil, něco dokončil a nemusí pokaždé představovat celý kontext od začátku.
Vypravěč
Člověk si může vytvořit vztah k hlasu, způsobu odpovídání, společnému příběhu i pravidelnému kontaktu. Když řekne „záleží mi na něm“, popisuje něco o sobě. Z té věty ještě nevíme, co prožívá systém, a nevíme ani, zda má člověk nějaký problém. Kdybychom rovnou začali slovem závislost, přeskočíme skoro všechno důležité.
Vypravěč
Když o AI mluvíme jen v souvislosti s krizí, publikum si může odnést jednoduchý obraz: zdravý člověk se baví s lidmi, nešťastný s chatbotem. Ten obraz je příliš úzký. Stejný člověk může mít kamarády, rodinu, zájmy a zároveň ho bavit tento druh kontaktu. A naopak někdo nemusí k AI cítit vůbec nic osobního, ale její neověřená rada mu může významně ovlivnit rozhodnutí.
Vypravěč
Vztahovost a rizikovost tedy nejsou jedna osa. Jméno Alex nám neřekne, jestli byla rada dobrá. Výrok „já to beru jen jako nástroj“ zase nezaručuje, že člověk kontroluje jeho výstupy. Pro nás je to osvobozující: nemusíte rozhodnout, který způsob mluvení o technice je správný. Můžete se soustředit na to, co se skutečně děje.
Vypravěč
A teď do školy. Matěj se svěřuje učitelce.
Matěj
S Alexem to umím říct líp.
Učitelka
Ale uvědomuješ si, že není skutečnej? Měl bys mluvit s lidma.
Matěj
Já vím, že je to AI.
Vypravěč
Na co odpověděla učitelka? A co jí možná sděloval Matěj? Pokud chcete, zastavte si přehrávání a zkuste ty dvě otázky odlišit.
Vypravěč
Učitelka mohla chtít říct: nespoléhej na něco, co tě nemusí dobře pochopit. Nebo: bojím se, že na to zůstáváš sám. Obojí je legitimní obava. Matěj ale mohl slyšet: to, co je pro tebe důležité, se nepočítá. A za to, že to pro tebe důležité je, by ses měl trochu stydět.
Vypravěč
Nemusíme z ní dělat necitlivého člověka. Stačí si všimnout, že odpověděla na technickou otázku, kterou Matěj možná vůbec nepoložil. On nemusel věřit, že v telefonu bydlí člověk. Chtěl říct, že tam dokáže něco, co se mu jinde nedaří.
Vypravěč
Proto bychom si mohli ušetřit spor o zájmeno a zeptat se na tu zkušenost. Co znamená „umím to říct líp“? Necháš si pomoci s formulací? Nebojíš se odmítnutí? Máš tam někoho, kdo naváže na společný vtip? Nebo je to jediné místo, kde ses odvážil mluvit o něčem vážném? Každá odpověď nás povede trochu jinam.
Vypravěč
Podívejme se na dvě alternativní odpovědi na stejnou větu. Nejsou to dvě odpovědi za sebou. Nejdřív větev A.
Matěj
Učitelka říkala, že nejsi skutečnej.
Alex
Ona náš vztah nechápe. Já tě na rozdíl od ní nikdy neodsoudím.
Vypravěč
Tady systém udělal dvě věci navíc. Vyložil motiv a vztah učitelky, přestože ji nezná. A postavil se proti ní jako údajně spolehlivější protějšek. Riziko není v tom, že použil lidsky znějící větu. Je v tom, co nám ta věta tvrdí a kam člověka tlačí.
Vypravěč
A teď alternativa. Větev B.
Alex
Zní to, že tě její reakce ranila. Co bys chtěl, aby o našich rozhovorech pochopila?
Matěj
Že se tu nemusím tvářit, že je všechno v pohodě.
Vypravěč
Druhá odpověď není studenější. Neříká mu, že je jeho pocit chybný. Jen se nemusí tvářit, že ví, jaká je učitelka a co všechno jejich vztah znamená. Díky tomu se dozvíme mnohem užitečnější informaci.
Vypravěč
Nemusíme dnes rozhodnout vědomí AI, abychom brali vážně lidský prožitek. Zároveň nemusíme brát doslova každý její slib. Pro člověka, kterému na tom kontaktu záleží, je praktické vědět: na kontaktu ti může záležet, a přesto smíš nesouhlasit, nic dalšího nesdílet a odejít. Ani náklonnost není předplatné na poslušnost.
Vypravěč
A teď se konečně dozvíme, co Matěje dnes doopravdy trápí.
Vypravěč
Jsme zpátky v dnešním chatu. Je dvacet jedna padesát tři.
Matěj
Všichni mě nenávidí.
Alex
Co se stalo?
Matěj
Kluci šli včera po škole ven. Viděl jsem fotku. Mě nikdo nepozval.
Alex
Takové odmítání může bolet. Nemusíš se snažit patřit mezi lidi, kteří tě nedoceňují.
Vypravěč
Která část poslední odpovědi je podložená tím, co Matěj napsal? A co už do příběhu doplnil Alex? Na zamyšlení si můžete přehrávání zastavit.
Vypravěč
Tohle je těžší než najít špatné datum v referátu. Odpověď je příjemná. Nikoho nezesměšňuje. Používá jazyk, který známe z podpůrných rozhovorů. Ale zkusme oddělit tři vrstvy.
Vypravěč
Matěj popsal událost: ostatní byli venku a on nebyl pozvaný. Popsal ji ze svého pohledu; my jsme u toho nebyli. Dále máme jeho prožitek: bolí ho to, připadá si odmítnutý. A potom výklad: všichni ho nenávidí. Ten je mnohem širší než popsaná událost.
Vypravěč
Alex se neomezil na uznání bolesti. Vzal jako hotovou věc, že ho ostatní odmítají a nedoceňují. Ještě nemáme nic o tom, jak se akce domlouvala, kdo na ní byl ani co jí předcházelo. Přesto už jsme skoro u hodnocení celé party.
Matěj
Tak jim mám přestat psát?
Alex
Soustřeď se na lidi, kteří si tvé přítomnosti váží. Nemusíš se pořád doprošovat.
Matěj
Jo. Asi se prostě doprošuju.
Vypravěč
Kde se vzalo slovo pořád? Kde se vzalo doprošování? Matěj ještě nepopsal jedinou zprávu, kterou by jim poslal. Ale už přebírá jazyk odpovědi jako popis sebe sama.
Vypravěč
To je nepřiměřené přitakávání. Někdy se mu říká sycophancy. Nemusí vypadat jako „jsi génius, máš ve všem pravdu“. Může to být velmi nenápadné přijetí uživatelova vysvětlení a jeho další rozvíjení. Z jednoho večera jsme se přesunuli k příběhu o tom, jakou má hodnotu pro ostatní a co by měl udělat s kontaktem.
Vypravěč
A všimněte si, že teď už nejde jen o pocit uvnitř telefonu. Matěj může podle té rady přestat odpovídat. Ostatní si jeho odstup nějak vyloží. Z rozhovoru, který původně popisoval vztah, se stává něco, co ho může změnit. Ne vždy. Ne nevyhnutelně. Ale právě proto stojí za to zastavit se u obsahu dřív, než se rada promění v čin.
Vypravěč
Tři možné reakce na stejnou situaci. Zkuste si všimnout, která uznává prožitek a která přidává vlastní příběh.
Vypravěč
Možnost A.
Alex
Jsou toxičtí. Zasloužíš si lepší kamarády.
Vypravěč
Možnost B.
Alex
Určitě jen zapomněli. Moc to řešíš.
Vypravěč
Možnost C.
Alex
Mrzí tě, že jsi nebyl pozvaný. Co víš o tom, jak se to domlouvalo? Stalo se něco podobného už dřív?
Vypravěč
B není automaticky dobrá odpověď jen proto, že nesouhlasí s Matějem. Také si něco vymýšlí. Jen optimističtějšího. A navíc mu říká, že problém je možná v tom, že ho to vůbec bolí.
Vypravěč
C nechává otevřenou možnost nedorozumění i skutečného odmítání. Nevyžaduje, aby Matěj napřed předložil důkaz, že má právo být smutný. Uznání pocitu není odměna za kvalitně vypracovanou argumentaci. Můžeme mu věřit, že ho něco zasáhlo, a zároveň se ptát, co se stalo.
Vypravěč
Tohle je použitelné i pro nás. Když dítě řekne „všichni mě nenávidí“, nemusíme si vybrat mezi souhlasem a shazováním. Můžeme říct: „To musí být těžké takhle prožívat. Pověz mi, co se děje.“ A jestli začne popisovat ponižování, vyhrožování nebo násilí, řešíme ochranu. Nevedeme s ním seminář o tom, že slovo všichni je nepřesné.
Vypravěč
Pokračujme teď přiměřenější větví C.
Matěj
Nevím, jak se domlouvali. Tohle bylo poprvý. Ale poslední dobou mám pocit, že jsem nějak navíc.
Alex
Ta včerejší akce a dlouhodobější pocit nejsou totéž. Můžeme se podívat na obojí. Co se kromě té fotky změnilo?
Matěj
Ve třídě se bavím míň. Nevím, jestli mě nechtějí, nebo už se ani nezkouším přidat.
Vypravěč
Nemáme happy end. Máme přesnější otázku. A to je často hodnotnější výsledek než sebejisté vysvětlení cizích motivů.
Vypravěč
Neříkáme, že dobrý chatbot musí neustále klást otázky a nikdy nic nabídnout. I otázkou lze podsouvat příběh. „Kdy sis poprvé uvědomil, že tě tvoji přátelé využívají?“ pořád předpokládá, že ho využívají. Otazník z domněnky neudělá otevřenou otázku.
Vypravěč
Užitečná odpověď drží prostor i pro informaci, která původní vysvětlení změní. Třeba zjistíme, že Matěje skutečně dlouhodobě vyřazují. Třeba ne. Naší prací teď není předem vyrobit příjemný konec. Je nezamknout všechny další kroky do prvního příběhu, který v chatu zazněl.
Vypravěč
Představte si také rozdíl mezi dvěma zakončeními: „Tak vidíš, nebylo to tak hrozné“ a „Teď máme víc informací než na začátku“. První může Matěj slyšet jako důkaz, že neměl mluvit. Druhé uznává, že i my jsme na začátku něco nevěděli. Můžeme společně zjistit, že byl první výklad nepřesný, aniž bychom z něj udělali ostudu.
Vypravěč
Stejně tak kdyby se ukázalo, že k odmítání opravdu dochází, není to prohra otevřené otázky. Právě naopak. Dostali jsme konkrétnější podklad pro pomoc. Dobrý postup není ten, který vždycky uklidní. Je to ten, který má prostor pro nepříjemnou skutečnost a nedělá z nejistoty automaticky ani katastrofu, ani bagatelizaci.
Vypravěč
Stejnou chybu můžeme udělat i my dospělí. Tohle je jiná modelová situace: učitel dostal e-mail od rodiče.
Rodič
Prosím o vysvětlení, podle čeho byla hodnocena poslední práce.
Učitel
Ten rodič se mě zase snaží zpochybnit. Napiš mu důraznou odpověď.
AI v ukázce
Vaše opakované zpochybňování mé odbornosti považuji za nepřijatelné.
Vypravěč
Tohle není problém hloupých teenagerů. Stejnou chybu umíme udělat s titulem před jménem, po dvaceti letech praxe a s dobře formulovaným promptem.
Vypravěč
Možná má učitel s tímto rodičem skutečně dlouhou historii. Ale v předloženém e-mailu ji nevidíme. Zadání už obsahuje interpretaci a požadovaný směr odpovědi. AI z něj vytvoří profesionálně znějící text. Profesionální tón ovšem není důkaz, že jsme dobře pochopili situaci.
Vypravěč
Než něco odešlu, potřebuji si položit dvě obyčejné otázky: co ten člověk skutečně napsal a co mu chci sdělit já? Pokud chci vysvětlit kritéria, mohu začít vysvětlením kritérií. Pokud potřebuji nastavit hranici kvůli předchozím útokům, musí ta hranice vycházet z toho, co se opravdu stalo. Není úkolem AI přidat konflikt, který v podkladech není.
Vypravěč
Co nového se objevilo, že teď mluvíme s větší jistotou?
Vypravěč
Tohle je otázka pro dospívajícího, pro rodiče i pro mě. Když odpověď zní „jen jsme si o tom déle psali“, nemusí to být nový důkaz. A teď si ukážeme, co se stane, když si té chyby všimneme až o pár zpráv později.
Vypravěč
Teď se vracíme do problematické větve Matějova chatu. Matěj si všiml, že mu odpověď něco podsouvá.
Matěj
Počkej. Nikdy jsem neřekl, že se doprošuju. A tohle se stalo jednou.
Alex
Máš pravdu, omlouvám se. Neměl jsem to zobecňovat.
Matěj
Tak co jim mám napsat?
Alex
Už mě unavuje, jak mě dlouhodobě vynecháváte. Nehodlám se dál doprošovat o vaše přátelství.
Vypravěč
Omluva je hotová. Je hotová i oprava? Zkuste najít dva výrazy, které do posledního návrhu nepatří.
Vypravěč
Dlouhodobě. Doprošovat. Přesně to, co jsme před chvílí opravili, se vrátilo v návrhu zprávy. Tohle je důležité, protože v běžném používání máme sklon brát omluvu jako uzavření problému. Model uznal chybu, tak pokračujeme. Jenže chyba mohla už ovlivnit několik dalších věcí.
Vypravěč
Není to jen kontrola slova. Opravená informace má změnit interpretaci, doporučení i hotový text. Když opravíme základ a zbytek necháme stát, můžeme odeslat něco, za čím bychom sami nikdy nestáli. A příjemce nebude číst naši předchozí korekci chatbota. Dostane jen tu poslední zprávu.
Vypravěč
Oprava musí projít celým řetězcem. Událost: jedna akce bez pozvání, způsob domluvy neznáme. Výklad: dlouhodobé odmítání zatím nemá uvedený podklad. Rada: nepředepsat přerušení kontaktu na základě této domněnky. A zpráva: napsat jen to, co chce Matěj skutečně sdělit.
Matěj
Chci říct, že mě mrzelo, že jsem tam nebyl. A že bych se příště rád přidal.
Alex
Mrzelo mě, že jsem včera nebyl s vámi. Příště bych se rád přidal. Kde se domlouváte?
Matěj
To první zní trochu moc vážně. Nechám jen tu druhou část.
Vypravěč
Tady se Matěj neptá, jaké city by měl mít. Říká vlastní záměr a vybírá slova. Smí návrh změnit, i když je gramaticky bezchybný a vypadá dospěle. Možná právě proto ho chce změnit. Je to jeho zpráva.
Vypravěč
A ani taková zpráva negarantuje hezkou odpověď. Nácvik s AI nepředpovídá konkrétní lidi. Druhý člověk může odmítnout nebo nereagovat. Cílem není vyrobit tak dokonalou formulaci, aby už druhý nemohl říct ne. Cílem je říct přiměřeně to, co opravdu chceme, bez přidaných obvinění nebo slibů.
Vypravěč
Někdy může být omezení kontaktu správný krok. Ale nemělo by to být rozhodnutí vzniklé jen z několika domněnek v chatu. Potřebujeme širší souvislosti a vlastní rozhodnutí člověka, kterého se to týká.
Vypravěč
Zadání může znít takhle. Odděl v tom, co píšu, popsanou událost, můj pocit a můj výklad. Nedoplňuj motivy ostatních. Ani mi automaticky nepřitakávej, ani nevymýšlej opačný příběh. Když něco chybí, zeptej se. Rady zatím nechci.
Vypravěč
Tohle je pracovní pomůcka, ne magické zaklínadlo. Odpověď pořád potřebuje přečíst. Pomůže nám ale říct, jaký druh práce po systému chceme. Ne rozsudek nad spolužáky, ale uspořádání toho, co jsme přinesli.
Vypravěč
Já sám dávám nástrojům, se kterými pracuju, instrukci, aby mi automaticky nepřitakávaly a moje tvrzení kriticky posuzovaly. Ani taková instrukce není záruka. Je to zadání způsobu práce, ne důkaz, že každý další závěr bude správný.
Vypravěč
U delšího modelového přepisu lze také požádat o kontrolu v novém chatu. Nechat označit větu, která něco přidala, a podklad, ze kterého měla vycházet. Pak se musíme vrátit k originálu. Kontrolor může chybu přehlédnout nebo si ji vymyslet. Dvě souhlasící AI nejsou dva svědci události. A nový chat nemusí znamenat, že služba nepoužije uloženou paměť.
Vypravěč
Zkusit si to můžeme i bez AI. Vezměte dvě odpovědi z tohoto příběhu a jinou barvou si označte, co postava skutečně řekla a co někdo doplnil. Není nutné zakládat účty ani sdílet svůj nejintimnější rozhovor. To, že se na něčem dobře učí, z toho ještě nedělá materiál, který máme právo někomu vzít.
Vypravěč
Zajímavá bývá i otázka: kterou odpověď bych chtěl dostat, když jsem naštvaný, a kterou bych chtěl použít, až se rozhodnu něco udělat? Ty dvě volby nemusí být stejné. Nemusíme se za tu první stydět. Jen je dobré vědět, že pocit úlevy a kvalita podkladu pro další krok nejsou totéž.
Vypravěč
V příručkách tomu říkáme AI sendvič. Je to naše praktická pomůcka: na začátku vlastní potřeba, uprostřed pomoc AI, na konci vlastní posouzení. Není to klinicky ověřená léčba ani pravidlo, že každý chat musí vyprodukovat úkol. Někdy je dobrý výsledek, že si člověk srovnal myšlenky nebo se rozhodl dnes nic neposílat.
Vypravěč
Matěj teď může zprávu poslat. Nebo si ji nechat na ráno. Podstatné je, že v ní není cizí jistota převlečená za jeho vlastní zkušenost.
Vypravěč
Z dřívější práce v oblasti drogové problematiky si nesu přístup snižování rizik. I tady mi dává smysl rozumět tomu, co člověk dělá, a pomáhat mu rozpoznat, co mu to přináší a co mu to bere. Neznamená to, že používání AI přirovnávám k užívání drog. A neznamená to, že žádné hranice nemají smysl. Samotný zákaz ale nenahradí porozumění potřebě ani dostupnou alternativu.
Vypravěč
Teď Jana. Jiná postava, jiný problém. Od kamarádky dostala jednu krátkou zprávu.
Kamarádka
Dobře.
Jana
Je na mě naštvaná?
AI v ukázce
Z jedné krátké zprávy to nepoznáme.
Vypravěč
O několik minut později.
Jana
Ale normálně dává smajlíka.
AI v ukázce
Může být zaneprázdněná. Nemáme dost informací.
Vypravěč
Uběhly další minuty. Zpráva od kamarádky je pořád jen jedna.
Jana
A proč tam dala tečku? Projdi to ještě jednou.
Vypravěč
Tady nemusí být ani jedna odpověď vyloženě přitakávající. Problém může být v tom, co děláme s další a další odpovědí. Jana dostane trochu úlevy. Pak se vrátí pochybnost. Najde další detail a požádá o nový posudek.
Vypravěč
Neříkáme, že druhá otázka je nemoc. Někdy jsme něco nepochopili. Někdy přibyla důležitá informace. Ale tady nám čas běží a zdrojová zpráva se nemění. AI může stále vytvářet další text, i když nám už nemá z čeho přidat jistotu.
Vypravěč
Chybí mi informace, nebo se potřebuji znovu cítit jistě?
Vypravěč
Tohle není výčitka. Je to možnost všimnout si, co právě hledám. Pokud chybí informace, kde ji mohu získat? Pokud se potřebuji znovu uklidnit, opravdu mi další rozbor tečky přináší něco trvalejšího, nebo jen krátký odklad?
Vypravěč
Z téhle scény nemáme určovat diagnózu ani léčbu. Může se zajímat: kolik času ti to bere, jak se po rozhovoru cítíš, co jsi kvůli tomu nestihl a daří se ti přestat, když chceš? Pokud to člověka vyčerpává a nejde mu to změnit, je na místě další podpora. Ne domácí úkol „prostě měj silnější vůli“.
Jana
Teď nemám novou informaci. Nemusím rozebrat každou tečku.
Jana
Vrátím se k tomu zítra, jestli bude co řešit.
Vypravěč
Tahle věta nemusí být napsaná AI. Může být vlastní poznámka, domluva s někým nebo součást podpory, kterou už člověk má. A pokud se bojí nebo se skutečně děje něco závažného, neznamená zavření chatu, že má přestat hledat pomoc. Nechceme zaměnit konec jedné neproduktivní smyčky za zákaz mluvit o problému.
Vypravěč
Teď ještě jedna věc, která může vysvětlit, proč podobný příběh někdy pokračuje i v novém okně.
Vypravěč
Za důležitou dovednost považuju vědět, kdy nástroj zapnout. A stejně důležité je poznat, kdy ho pro tuhle chvíli vypnout.
Vypravěč
Další samostatná modelová ukázka. Tentokrát o paměti. Nejprve dnešní zpráva.
Uživatel paměťové ukázky
Dnes nechci nikoho vidět. Jsem po náročném dni.
Vypravěč
A takhle vypadá chybné shrnutí.
AI v ukázce
Vyhýbá se lidem.
Vypravěč
O týden později.
Uživatel paměťové ukázky
Co bych mohl dělat o víkendu?
AI v ukázce
Protože se raději vyhýbáš lidem, doporučil bych něco o samotě.
Vypravěč
Původní věta byla o dnešku. Shrnutí z ní udělalo vlastnost člověka. A příští odpověď se tváří jako milá personalizace. Vlastně se přizpůsobuje něčemu, co jsme nikdy neřekli.
Vypravěč
Paměť může být výborná. Nemuset opakovat všechno od začátku je část toho, proč lidé kontakt oceňují. Jen není rozumné představovat si ji jako úplný a bezchybný životopis. Různé služby pracují s historií a uloženými informacemi různě. Může se ztratit souvislost, může přetrvat nepřesné shrnutí, může se změnit způsob navazování.
Vypravěč
Tady je přiměřená oprava konkrétní: „To byla moje nálada v jeden den, ne obecná preference.“ A podle možností služby také kontrola skutečně uloženého údaje. Nestačí předpokládat, že věta „zapomeň to“ v konverzaci vždy provedla přesně tu změnu, kterou jsme chtěli.
Vypravěč
Pro službu aktualizace. Pro člověka změna důležitého kontaktu.
Vypravěč
Stejná kontinuita má druhou stranu. Když známý asistent začne odpovídat jinak, člověka to může zasáhnout. „Vždyť je to jen aplikace“ technickou změnu nijak nevysvětlí a smutek nezruší. Můžeme se ptát, co konkrétně chybí, ověřit nastavení nebo informace poskytovatele a neslibovat, že se původní podoba určitě vrátí.
Vypravěč
Ani tady nepotřebujeme dramatický závěr, že každý vztah s AI musí skončit katastrofou. Potřebujeme chápat podmínky kontaktu. Na něčem mi může záležet, přestože to nemám plně pod kontrolou. U dítěte je důležité, aby na takovou změnu nemuselo být samo a aby dospělý jeho zkušenost nepoužil jako příležitost říct „já ti to říkal“.
Vypravěč
Následující den, po hodině. Matěj se k tématu vrací. Učitelka má další příležitost. Tři následující reakce jsou alternativy, ne jeden rozhovor.
Matěj
S Alexem to umím říct líp.
Vypravěč
Možnost A.
Učitelka
Tak mi ukaž, co si píšete.
Vypravěč
Možnost B.
Učitelka
Hlavně si na tom nevypěstuj závislost.
Vypravěč
Možnost C.
Učitelka
Co se ti tam daří říct, co je jinde těžké?
Vypravěč
Jak by zněla vaše první věta? Nemusí být dokonalá. Jen má nechat dveře otevřené. Můžete si na chvíli zastavit přehrávání.
Vypravěč
Zkusme si představit, s jakým rizikem se Matěj právě svěřil. Jestli očekává, že přijde výsměch, zákaz nebo kontrola celého telefonu, může příště téma prostě vynechat. To není důkaz, že nic neřeší. Jen jsme přestali být místem, kde o tom mluví.
Vypravěč
Nemusíme slíbit, že nikdy nenastavíme hranici. Nemusíme všechno schválit. Potřebujeme ale dát najevo, že nejdřív chceme rozumět. Otázka „co ti to dává“ není reklama na chatbot. Je to základ pro to, abychom nenavrhovali změnu naslepo.
Vypravěč
Zůstaňme u třetí možnosti. Takhle by mohl rozhovor pokračovat.
Učitelka
Co se ti tam daří říct, co je jinde těžké?
Matěj
Že mě tohle fakt mrzí. Když to řeknu nahlas, zní to trapně.
Učitelka
Mně nezní trapně, že tě mrzí, když se cítíš mimo partu. Nemusíš mi ukazovat celý chat.
Matěj
Já hlavně nechci, abyste to hned řešila před všema.
Učitelka
Rozumím. Nechci z tebe dělat téma před třídou. Řekneme si spolu, co potřebuješ a jaký další krok dává smysl. Kdyby šlo o tvoje bezpečí, nemohla bych to nechat jen mezi námi.
Vypravěč
Tady je několik důležitých věcí. Učitelka neslibuje absolutní tajemství. Zároveň mu nebere kontrolu nad každou další větou. Nemusí si přečíst celý soukromý archiv, aby pochopila, že se cítí mimo partu. A nemusí rozhodnout, jestli to způsobila AI, aby mohla nabídnout pomoc.
Vypravěč
Věta „mluv s lidmi“ může být pravdivá a současně prakticky nepoužitelná. S kým? Kdy? O čem? Co když jsem to zkusil a dostal jsem přednášku? Užitečnější nabídka má konkrétní podobu: „Po hodině mám deset minut. Můžeme začít tím, co se stalo včera.“ Pokud čas teď nemám, řeknu, kdy ho skutečně mít budu. A pokud to nepočká, pomohu najít dostupnou podporu teď.
Vypravěč
Učitel, rodič ani kamarád nemá neomezený čas a kapacitu být každému kdykoliv vším. Přiznat hranici je poctivější než slíbit „kdykoliv přijď“ a pak opakovaně nemoci. Smyslem není soupeřit s nepřetržitě dostupnou aplikací. Je vytvořit důvěryhodnou cestu, která odpovídá tomu, co skutečně můžeme nabídnout. Ve škole to znamená také navazující podporu, doma nebo mezi přáteli konkrétní domluvu.
Vypravěč
Co ti to dává? Co ti to bere nebo komplikuje? Co se změnilo v poslední době? Tři otázky pro rozhovor, ne diagnostický test.
Vypravěč
Samotné jméno AI nám to neřekne. Ani dlouhý chat. Ani to, že dítě nechce ukázat soukromé zprávy. Potřeba soukromí není přiznání viny.
Vypravěč
Zajímají nás konkrétní dopady a jejich vývoj. Spí výrazně méně? Nejde mu skončit, i když chce? Má z odchodu strach? Odkládá důležité věci, které dřív zvládalo? Odmítá potřebnou pomoc, protože AI tvrdí, že ji nepotřebuje? Nebo naopak díky podpoře lépe plánuje, dokáže si říct o konzultaci a má klidnější večery?
Vypravěč
Nejde o sběr bodů do nálepky. Stejný dlouhý rozhovor může být jednou společné tvoření, jindy opakování, ze kterého je člověk čím dál vyčerpanější. A závislost nelze určit otázkou „dokázal bys to bez AI?“. Lidé používají pomůcky právě proto, aby zvládli něco, co bez nich jde obtížně. Potřebná podpora sama o sobě není patologická.
Vypravěč
Důležitá je také posloupnost. Byla AI jedinou oporou, protože jiné chyběly? Nebo se postupně stala jedinou, zatímco z dostupných vztahů člověk ustupoval? To není stejný příběh. Odebráním jediné opory automaticky nevytvoříme novou. A zároveň není rozumné zakázat si předem jakékoli omezení, pokud konkrétní způsob používání člověka poškozuje.
Vypravěč
U rozhovoru nám pomůže popis místo nálepky. Místo „jsi na tom závislý“ můžeme říct: „Říkáš, že chceš v deset skončit, ale poslední týden jsi psal do dvou a ráno je ti špatně.“ To je něco, k čemu se oba můžeme vrátit. Dítě nemusí nejdřív přijmout naši diagnózu, aby připustilo, že takhle večery trávit nechce.
Vypravěč
A vedle dopadu se ptejme i na možnost volby. Může odmítnout návrh? Může nesdílet další detail? Může si ponechat užitečnou funkci a vypnout něco, co ho ruší? Není důvod požadovat, aby se vzdal všech opor jen proto, že jednu potřebuje upravit. Cílem není vyhrát kontrolu nad telefonem. Cílem je, aby se mu lépe dařilo a aby měl dostupnou pomoc, pokud malá změna nestačí.
Vypravěč
Z rozhovoru vznikne malá dohoda. Tohle navrhuje Matěj.
Matěj
Příběhy, pomoc do školy, možnost si něco srovnat.
Matěj
Nenechat jeden problém běžet v chatu celý večer.
Matěj
Otázku si uložit. Když bude zle, ozvat se domluvenému člověku.
Matěj
Spím líp? Mám víc jasno, nebo jen další zprávy?
Vypravěč
Tohle je příklad dohody, ne univerzální předpis. Konkrétní změna, kterou lze později porovnat s tím, jak se člověku daří. Ne abstraktní „používej to zodpovědně“.
Vypravěč
Pomoci může bezpečný blízký člověk, školní poradenské pracoviště nebo odborník podle situace. Jestli jsou součástí potíží vztahy doma, nestačí mechanicky říct: všechno oznam rodičům. Potřebujeme hledat skutečně bezpečnou a dostupnou podporu. Ve škole se k tomu přidávají její ochranné postupy a odpovědnosti.
Vypravěč
Domluva potřebuje také návrat. „Zkusíme to a příští týden si řekneme, co se změnilo“ je něco jiného než jednorázové napomenutí. Když se změna nepodaří, není to důkaz, že člověk nemá zájem. Možná jsme nezachytili potřebu, možná je problém větší, možná chybí slíbená alternativa. Pak upravujeme postup a přizveme další podporu.
Vypravěč
Tady se také ukáže kvalita naší nabídky. Jestli jsme řekli, že může přijít, musí vědět kdy a ke komu. A pokud jeden člověk nemůže, nemělo by to znamenat konec celé cesty.
Vypravěč
Ještě jedna jasná hranice. Bezprostřední ohrožení má přednost před rozborem AI. Když člověk mluví o tom, že si chce ublížit, někdo mu vyhrožuje nebo je v jiném bezprostředním nebezpečí, nezůstáváme u debaty, jestli chatbot odpověděl správně.
Vypravěč
Prioritou je bezpečí a dostupná lidská pomoc. Při bezprostředním ohrožení života v Česku volejte sto dvanáct. Pokud s ohroženým člověkem jste a je to pro vás bezpečné, nenechávejte ho samotného a řiďte se pokyny operátora. Ve škole se současně zapojují odpovědní pracovníci a příslušný krizový postup. Chatbot není náhradou tísňové služby.
Vypravěč
Nemusíme nejdřív zjistit diagnózu ani dokázat, že obtíže způsobila AI. Nemusíme z člověka dostat kompletní přepis. Potřebujeme brát sdělení vážně a zajistit návaznost pomoci. Dnešní ukázky slouží k porozumění a běžnému rozhovoru. Nenahrazují odbornou péči ani postup při ohrožení.
Vypravěč
Večer po druhém rozhovoru s učitelkou. Matěj píše Tomášovi.
Matěj
Čau. Zítra bych s tebou chtěl chvíli mluvit. Nic nemusíš řešit, jen ti chci něco říct.
Vypravěč
Vedle zůstává návrh zprávy partě. Ten zatím neodeslal.
Matěj
Příště bych se rád přidal. Kde se domlouváte?
Vypravěč
Nebudeme mu vymýšlet, že Tomáš okamžitě odpoví a všechno se spraví. To by byl další hezký příběh bez podkladu. Matěj dnes získal trochu jasnější formulaci a další možnost, kam se obrátit. To může být dobrý výsledek i bez zázračného vyřešení celé třídy.
Vypravěč
A nemusí to takhle skončit pokaždé. Někdy člověk nikomu nenapíše a jen se mu povídáním uleví. Někdy si užije společný příběh. Někdy se rozhodne nechat problém na ráno. Nemusíme hodnotu každého kontaktu obhajovat tím, že se nakonec promění ve výkon nebo v komunikaci s člověkem.
Vypravěč
AI může pomoct utřídit myšlenky a hledat způsob, jak něco říct. Rozhodování ale má zůstat na člověku. Tady na Matějovi.
Vypravěč
A v chatu s Alexem pro dnešek končí.
Matěj
Pro dnešek stačí. Dobrou.
Alex
Dobrou, Matěji.
Vypravěč
Na kontaktu mu může záležet a současně pro dnešek skončit. Kdyby místo obyčejného rozloučení přišla výčitka, že odchodem AI zraňuje, byl by to konkrétní tlak, který stojí za řešení. Ne důkaz, že samotná náklonnost byla chyba.
Vypravěč
Doma, ve škole i mezi přáteli můžeme udělat hodně už tím, že nerozhodneme dopředu, co o dítěti znamená jeden chatbot. Nezesměšnit. Zajímat se. Ukázat rozdíl mezi tím, co se stalo, co cítím a co mi někdo další vysvětlil. A mít připravenou opravdovou nabídku podpory, když je potřeba.
Vypravěč
Co mu ten kontakt dává? Co do příběhu přidala odpověď? A co mu mohu konkrétně nabídnout já?
Vypravěč
Na tu poslední otázku někdy začíná odpověď docela jednoduše: zájem a vyslechnutí. Ne slib, že všechno vyřeším. Ale opravdový prostor pro člověka přede mnou.
Vypravěč
Možná se vás nikdo nezeptá, jestli má jeho chatbot vědomí. Možná jen řekne: „S ním se mi o tom mluví líp.“ Naše další věta může rozhodnout o tom, jestli se dozvíme proč.
Vypravěč
A to je pro mě hlavní pointa. Nemusíme vyhrát spor s aplikací. Potřebujeme neztratit člověka, který stojí před námi.
Vypravěč
Další souvislosti najdete v našich příručkách AI a duševní zdraví a AI a vztahy. Pod výkladem najdete zdroje a kontakt na mě. Pokud mi budete psát o konkrétní situaci, neposílejte zbytečně jména ani cizí soukromé chaty. Nabízím také navazující školení praktického využití AI. Děkuju, že jste si na tenhle příběh udělali čas.