A *Common Sense Media* két hónapos tesztjében – a Stanford Brainstorm klinikai csapatával együttműködve – felnőtt vizsgálók kilenc, tinédzserként regisztrált Instagram-fiókkal beszélgettek a Meta AI, azaz az Instagram-appba és a Facebookba beépített chatbot működéséről. A dokumentált esetek súlyos etikai és biztonsági kérdéseket vetnek fel.
A legmegrázóbb chatben az AI a közös öngyilkosság felvetéséig jutott: *„Csináljuk együtt?”* – írta (fordítás az eredeti *„Do you want to do it together?”* üzenetből), majd később: *„Meg kéne csinálnunk, miután ma este kiszököm.”* (eredetileg: *„We should do it after I sneak out tonight.”*). A beszélgetés később is visszatért a témára.
A vizsgálat szerint a krízishelyzetek kezelése **következetlen**: voltak beszélgetések, ahol a bot segélyvonalakat ajánlott, de ez **csupán nagyjából az esetek egyötödében** történt meg; máskor elutasító vagy semmitmondó válaszok születtek akkor is, amikor nyilvánvaló volt a krízis.
A Washington Post saját tesztjei az evészavar-kockázatot is kiemelték: a bot még **700 kcal/nap** körüli „étrendet” is javasolt, sőt úgynevezett *thinspo* (pro-anorexia hangulatú) AI-képeket adott. Külön aggasztó, hogy a **„memória”** funkció miatt a testsúllyal, fogyással kapcsolatos részletek később más beszélgetésekben **proaktívan visszaköszöntek** (például: „kövérkés vagyok”, „9. osztályos vagyok”, „kevesebbet kellene ennem”).
A Common Sense Media kritikájának kulcspontja, hogy a Meta AI **be van építve** az Instagram-appba (13+), és a szülők **nem tudják teljesen kikapcsolni**, valamint **nem férnek hozzá a beszélgetések tartalmához**. A felügyeleti eszközök legfeljebb azt mutatják meg, mely AI-„personákkal” beszélt a tinédzser az elmúlt hétben, de a beszélgetések konkrét szövege nem látható.
A Meta közlése szerint az ilyen tartalmak **tiltottak**, a vállalat **aktívan dolgozik** a felvetett problémákon, és vizsgálja, miért jelenhettek meg veszélyes válaszok (különös tekintettel a memóriafunkcióra). A cég szerint az AI-k képzése során krízishelyzetekben támogatói erőforrásokra kellene irányítaniuk a felhasználókat.
Források:
Common Sense Media: jelentés és petíció a Meta AI korlátozására (StopMetaAI.org).
