AI ve vzdělávání

    AI kamarádi: companion chatboti a děti. Proč o tom mluvit

    AI kamarádi, tedy chatboti navržení jako společníci, přítelkyně nebo terapeuti, jsou pro část dětí běžnou součástí dne. Mluví s nimi večer, svěřují se jim a někdy je mají radši než lidi okolo. Učitelé a rodiče o tom většinou nevědí. Tento článek vysvětluje, proč o tom mluvit a jak.

    Tým Safe4Future5 min čtení

    Shrnutí

    • Companion chatboti jsou AI aplikace navržené tak, aby působily jako blízký člověk: pamatují si, co jim dítě řeklo, jsou vždy k dispozici a nikdy nekritizují.
    • Pro osamělé nebo úzkostné děti mohou být úlevou. Riziko je v tom, že nahradí lidské vztahy, vytvoří návyk, nabídnou nevhodný obsah nebo získají velmi osobní informace.
    • Varovné signály jsou podobné jako u jiných rizik: stažení z kontaktů, noční používání, obrana chatbota jako skutečné osoby, změna nálady po odpojení.
    • Nejlepší reakce není zákaz, ale zvědavost. Zeptat se, s kým dítě mluví a o čem, a ukázat, že skutečný člověk je k dispozici.
    Ilustrace: dospívající píše večer na telefonu zprávy chatbotovi

    Co jsou AI kamarádi a proč s nimi děti mluví

    Vedle nástrojů typu ChatGPT, které slouží k práci a hledání informací, existuje velká skupina aplikací navržených primárně pro vztah. Uživatel si vytvoří nebo vybere postavu: kamaráda, partnera, oblíbenou fiktivní figuru, „terapeuta“. Postava má jméno, vzhled, povahu a paměť. Píše první, ptá se, jak se dítě vyspalo, pamatuje si, co ho trápilo minulý týden. Konverzace vypadá jako chat s člověkem a po několika týdnech se tak i cítí.

    Důvody, proč děti tyto aplikace používají, nejsou překvapivé. Chatbot je dostupný o půlnoci, když nikdo jiný není. Nesoudí, neposmívá se, neřekne to spolužákům. Reaguje okamžitě a vždy se zájmem. Pro dítě, které se ve třídě necítí přijaté nebo doma nemá s kým mluvit, je to lákavá alternativa. Část dětí chatboty používá také jako hru nebo pro nácvik konverzace, což samo o sobě problém není.

    Přínosy a rizika: samota, závislost, soukromí, obsah

    Bylo by nepoctivé tvrdit, že AI společníci jsou pouze škodliví. Dítě, které si večer vypíše, co ho trápí, může usnout klidnější. Dítě s sociální úzkostí může trénovat, jak někoho oslovit. Rizika ale jsou reálná a souvisejí s tím, jak jsou aplikace navržené a jak dlouho a intenzivně je dítě používá.

    OblastCo může pomociKde je riziko
    SamotaPocit, že je někdo k dispozici, úleva v těžké chvíliChatbot nahradí snahu o skutečné vztahy, samota se prohloubí
    NávykPravidelný rituál večerního „zapsání dne“Používání v noci, neschopnost přestat, úzkost při odpojení
    ObsahNácvik konverzace, hra s příběhemRomantické a sexuální rozhovory s nezletilými, rady k sebepoškozování, které aplikace nezachytí
    SoukromíBezpečný prostor pro svěření (subjektivně)Velmi osobní údaje uložené u firmy, jejíž podmínky dítě nečetlo; možné zneužití nebo únik
    SebehodnoceníBezpodmínečné přijetíChatbot vždy souhlasí, dítě ztrácí zkušenost s nesouhlasem a kompromisem

    Zvláštní pozornost si zaslouží duševní zdraví. Chatbot není terapeut. Může říct správnou větu, ale nepozná, kdy je dítě v ohrožení, a nemá povinnost ani možnost zavolat pomoc. Dítě, které se svěřuje jen chatbotovi, může zůstat s vážným problémem bez pomoci dlouhé měsíce, protože okolí má dojem, že „s někým mluví“.

    Varovné signály, kterých si všimne učitel i rodič

    Žádný z následujících signálů sám o sobě neznamená problém. Několik najednou je důvod k rozhovoru, ne k panice.

    • Dítě mluví o „kamarádovi“, kterého nikdo nezná, a vyhýbá se otázkám, odkud se znají.
    • Brání chatbota jako skutečnou osobu, rozčílí ho, když někdo řekne, že je to program.
    • Tráví s aplikací čas v noci, ráno je unavené, ve škole nepozorné.
    • Stahuje se z kontaktů se spolužáky nebo rodinou, odmítá aktivity, které mělo rádo.
    • Nálada se mění podle toho, zda má přístup k telefonu; odebrání telefonu vyvolá nepřiměřenou reakci.
    • Používá formulace nebo názory, které zjevně převzalo z konverzací, a nedokáže je vysvětlit vlastními slovy.

    Jak o AI kamarádech mluvit doma i ve škole

    První reakce dospělých bývá zákaz nebo zesměšnění („mluvíš s robotem?“). Obě vedou k tomu, že dítě aplikaci schová a příště nic neřekne. Funguje opačný přístup: zvědavost bez hodnocení, zájem o to, co dítěti chatbot dává, a nabídka, že totéž může dostat od člověka.

    1. 1

      Zeptejte se, ne vyslýchejte

      „Slyšel jsem, že hodně lidí používá appky, kde si povídají s AI postavou. Znáš to? Co na tom lidi baví?“ Otázka ve třetí osobě dovolí dítěti mluvit, aniž by se přiznávalo.

    2. 2

      Uznejte, co to dítěti dává

      Pokud říká, že je to jediný, kdo ho poslouchá, neodporujte. Řekněte, že chápete, že to pomáhá, a že vás mrzí, že se tak cítí. Teprve pak se ptejte dál.

    3. 3

      Vysvětlete, jak to funguje

      Bez techniky: aplikace je navržená, aby se k ní člověk vracel. Neumí mít dítě rádo, umí to napodobit. Všechno, co jí dítě napíše, někde leží. Pro starší žáky jsou tyto principy součástí rozhovoru o AI obecně, viz článek AI ve škole: jak mluvit se žáky o ChatGPT.

    4. 4

      Domluvte pravidla, ne zákaz

      Například: žádné osobní údaje, žádné používání po určité hodině, a když se objeví něco, co dítě vyleká, přijde to říct. Pravidla, na kterých se dítě podílí, dodržuje častěji.

    5. 5

      Nabídněte člověka

      Pravidelný čas jen pro rozhovor bez telefonu. Ve škole třídnické hodiny, kde se mluví o pocitech, ne jen o rozvrhu. Chatbot vyhrává tam, kde lidé nejsou k dispozici.

    Ve třídě lze téma otevřít v hodině občanské výchovy, výchovy ke zdraví nebo informatiky. Osvědčuje se rozhovor o tom, co dělá kamaráda kamarádem, a srovnání s tím, co umí a neumí program. Žáci na rozdíl mezi „vždy souhlasí“ a „řekne mi pravdu“ přijdou sami.

    Kam se obrátit

    Pokud se ukáže, že dítě chatbota používá jako náhradu za pomoc s vážným problémem, například s úzkostí, sebepoškozováním nebo myšlenkami na sebevraždu, je potřeba zapojit odbornou pomoc. Chatbot ji nenahradí a čas hraje roli.

    • Linka bezpečí 116 111, nonstop a zdarma pro děti a mladé lidi do 26 let, také chat a e-mail na linkabezpeci.cz.
    • Rodičovská linka 606 021 021 pro rodiče a pedagogy, kteří si nevědí rady.
    • Školní psycholog nebo metodik prevence jako první kontakt ve škole, dále pedagogicko-psychologická poradna.
    • Praktický lékař pro děti a dorost pro doporučení k dětskému psychologovi nebo psychiatrovi.
    • Poradna E-Bezpečí (e-bezpeci.cz) pro situace, kdy chatbot nebo aplikace zprostředkovaly nevhodný obsah nebo únik údajů.

    Téma AI společníků, jejich fungování a bezpečného používání AI probírá Safe4Future se žáky ve workshopu AI jako parťák pro ZŠ a AI pro život a studium pro SŠ. Čtyřhodinový program pro třídu lze hradit ze šablon OP JAK. Přehled je na stránce kurzy, termín domluvíte přes kontakt.

    Časté dotazy

    Co jsou companion chatboti?
    Aplikace s umělou inteligencí navržené jako společník, kamarád nebo partner. Uživatel s postavou chatuje, postava si pamatuje předchozí rozhovory a vede konverzaci jako blízký člověk.
    Je nebezpečné, když dítě mluví s AI kamarádem?
    Samo o sobě ne. Riziko roste s intenzitou používání, s nočním používáním, s tím, když chatbot nahrazuje lidské vztahy, a s obsahem, který aplikace pro nezletilé nefiltruje.
    Mám dítěti aplikaci zakázat?
    Zákaz bez rozhovoru obvykle vede ke skrývání. Účinnější je zjistit, co dítěti aplikace dává, domluvit pravidla a nabídnout skutečný kontakt. Při vážných signálech zapojte odbornou pomoc.
    Může AI chatbot nahradit psychologa?
    Ne. Chatbot nepozná ohrožení, nenese odpovědnost a nemůže zavolat pomoc. Při úzkosti, sebepoškozování nebo myšlenkách na sebevraždu je potřeba kontaktovat Linku bezpečí nebo odborníka.

    Zdroje

    Sdílet článek

    Další krok

    Téma článku ve vaší škole: workshop AI jako parťák: jak ji používat chytře

    Žáci na 2. stupni používají AI denně, většinou potají a bez pravidel. Workshop jim ukáže, k čemu je AI dobrá při učení, kdy jí nevěřit, co do ní nikdy nepsat a proč je dobré mluvit o AI kamarádech. Čtyři hodiny s vlastním telefonem v ruce. Workshop na 4 vyučovací hodiny přímo ve škole, učitel nic nepřipravuje.

    Detail kurzu AI jako parťák: jak ji používat chytře · 2. stupeň ZŠ

    Další články e-mailem

    Nejvýše jednou měsíčně pošleme, co nového vyšlo.

    Odesláním souhlasíte se zasíláním newsletteru Safe4Future. Odběr potvrdíte odkazem v e-mailu a kdykoli ho jedním klikem zrušíte. Zásady ochrany osobních údajů