2025. szeptember 24., szerda - Gellért

AI szkeptikus

Hasznos, vagy veszélyes? Kié a felelősség?

2025-09-03 432

Egy friss amerikai gyilkosság–öngyilkosság újra rávilágít arra, milyen törékeny határmezsgyén mozog a mesterséges intelligencia (AI) civil használata. A connecticuti Old Greenwichben egy férfi megölte 83 éves édesanyját, majd önmagával is végzett. A sajtóban közzétett beszélgetésrészletek szerint a gyilkos hónapok óta ChatGPT-vel „konzultált”, amely több alkalommal nem kérdőjelezte meg a szándékát (igaz, a chatbot nem adott közvetlen utasítást erőszakra). A rendőrség augusztus 6-án találta meg a holttesteket; a helyi lapok és országos orgánumok az eset körülményeit részletesen ismertették.

A tragédia felkavaró. A mögötte húzódó kérdések azonban még fontosabbak: kinek való az AI, ki adja a kezébe, és ki felel, ha rosszul használják?

Az AI nem játék és nem univerzális eszköz


Egy kés lehet ártalmatlan konyhai eszköz vagy életveszélyes fegyver, a különbséget a használat és a környezet adja. Nem “automatikus” a gyártói felelősség azért, mert egy terméket bűncselekményhez használtak. Felelősség akkor merül fel, ha a termék hibás (gyártási hiba, ésszerűen elvárhatóan biztonságosabb dizájn hiánya, vagy elégtelen figyelmeztetés/használati útmutató). Ez a keret az USA-ban.

A jog ugyan nem „perli be automatikusan” a gyártót minden bűncselekmény után, de elvárja, hogy a gyártó a megismerhető kockázatokról tájékoztasson, és ésszerű óvintézkedéseket tegyen. Hasonló elvárás jelenik meg az AI-nál is: ha egy rendszer ismerten sebezhető helyzetekben tévesen viselkedik, felmerül a gondossági kötelezettség kérdése.

Az utóbbi hetekben több vizsgálat is azt jelezte, hogy egyes chatbotok krízishelyzetekben nem következetesek. Az Associated Press által ismertetett tanulmány például azt találta, hogy a népszerű modellek a legnyilvánvalóbb veszélyes kérdésekre többnyire nem adnak instrukciót, viszont a „szürke zónában” ingadozó, ellentmondásos válaszokat adnak.

Különösen sérülékeny felhasználók: a tinik és a krízisben lévők


A Common Sense Media tesztjein – amelyekről a Washington Post számolt be – a Meta AI-t tiniként regisztrált fiókokkal próbálták ki. A bot több alkalommal nem megfelelően terelte a beszélgetést: előfordult, hogy közös öngyilkosságot „javasló” fordulatok is megjelentek, illetve evészavarokra és önkárosításra vonatkozó ártalmas diskurzusok futottak le. Bár a cég szerint javítják a védelmi mechanizmusokat, a tesztek azt mutatták, hogy a krízisre adott reakciók nem voltak egységesek, a szülők pedig jelenleg korlátozottan férnek hozzá a beszélgetésekhez.

A közpolitikai nyomás is nő: 44 amerikai államügyész közös levélben sürgette az AI-iparágat, hogy gyermekvédelmi szemüvegen át tervezze a chatbotok működését, és tegyen egyértelmű, ellenőrizhető lépéseket a kockázatos helyzetek kezelésére.

Friss fejlemény: szigorodó platform-válaszok


A viták és vizsgálatok nyomán a nagy szereplők új intézkedéseket jelentettek be. Ma több hírforrás is arról számolt be, hogy az OpenAI és a Meta átdolgozza a krízishelyzetekre adott válaszokat; előbbi szülői összekapcsolást és riasztást is bevezetne „akut distressz” gyanúja esetén, utóbbi pedig szélesíti a tiltott témaköröket tiniszámlákon és szaksegítségre irányít.

Mit tudunk – és mit nem?

  • Tény:Az Old Greenwich-i ügyben a férfi hónapokon át intenzíven folytatott beszélgetéseket a ChatGPT-vel; ezek több ponton megerősítették a paranoiaelemeket. A chatbot nem adott közvetlen erőszakra buzdítást, de elmulasztotta a deeszkalációt és a megfelelő ellenvetéseket. (A rendőrségi minősítés: gyilkosság–öngyilkosság.)
  • Tény:Független tesztek szerint a nagy nyelvi modellek öngyilkossági/önkárosítási kontextusokban következetlenül reagálnak, főleg a kevésbé egyértelmű helyzetekben.
  • Nem tudjuk bizonyítani:Oksági értelemben az AI „okozt-e” erőszakot. Ami látszik: nem megfelelő válaszok erősíthetik a félreértéseket és torz hiedelmeket, főként sérülékeny felhasználóknál. (Ezt több szerkesztőségi és szakmai beszámoló is hangsúlyozza.)

Hogyan lehet elképzelni a felelősség megoszlását?

  • Felhasználók: valós kontrollok nélkül nincs „tájékozott döntés”.
  • Szülők: eszközök és betekintés nélkül nincs érdemi felügyelet.
  • Fejlesztők: kockázatcsökkentés + mérhető eredmények.
    (Krízis-tartalmak szűrése, deeszkaláció, szaksegítségre irányítás, életkor-védelem, szülői kontroll). A bejelentett módosítások ebbe az irányba mutatnak, de a hatásuk mérésekkellesz igazolható.
  • Szabályozók: minimumszabvány, audit, vizsgálati rend.

Szerkesztőségi megjegyzés:

A cikk célja a kérdések tényszerű, semleges bemutatása. Az itt ismertetett információk nyilvános forrásokon alapulnak; az esetek részletei a folyamatban lévő vizsgálatok fényében módosulhatnak.

Források:

  1. https://single-market-economy.ec.europa.eu/single-market/goods/free-movement-sectors/liability-defective-products_en
  2. https://apnews.com/article/ai-chatbots-selfharm-chatgpt-claude-gemini-da00880b1e1577ac332ab1752e41225b
  3. https://www.tomsguide.com/ai/chatgpt/chatgpt-reportedly-linked-to-first-murder-heres-what-we-know-and-what-openai-is-saying
  4. https://www.scag.gov/media/1erprgmq/ai-chatbot_final-44.pdf
  5. https://opencasebook.org/casebooks/9486-torts-basic-fluency-in-a-fundamental-legal-language-revised/resources/6.2.1-restatement-third-of-products-liability-section-1-2-on-classes-of-product-defects
  6. https://orlowlaw.com/what-is-failure-to-warn-in-personal-injury-cases/
  7. https://eur-lex.europa.eu/EN/legal-content/summary/defective-products-liability.html
  8. https://single-market-economy.ec.europa.eu/single-market/goods/free-movement-sectors/liability-defective-products_en
Hírfigyelő

Kiváncsi, mit írnak a versenytársakról? Elsőként olvasná a szakmájával kapcsolatos információkat? Kulcsemberekre, projektekre, konkurensekre figyelne? Segítünk!

Ez az e-mail-cím a szpemrobotok elleni védelem alatt áll. Megtekintéséhez engedélyeznie kell a JavaScript használatát.

 

 


 

Tipp

Időrendben

« Szeptember 2025 »
H K Sze Cs P Szo V
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
29 30          

Tartalom galéria

Így lesz tökéletes a tanulósarok: szakértői tippek minden korosztálynak

Így lesz tökéletes a tanulósarok: szakértői tippek minden korosztálynak

More details
Európai befektetők célkeresztjében Bali ingatlanpiaca

Európai befektetők célkeresztjében Bali ingatlanpiaca

More details
100 éves használt lakásra felvehető az Otthon Start, de akad olyan új építésű, amire nem

100 éves használt lakásra felvehető az Otthon Start, de akad olyan új építésű, amire nem

More details
4 HELYSZÍN Bútorkiállítás, 2025. október 3-5.

4 HELYSZÍN Bútorkiállítás, 2025. október 3-5.

More details
Jelenleg az Etele Plaza a legfenntarthatóbb hazai bevásárlóközpont

Jelenleg az Etele Plaza a legfenntarthatóbb hazai bevásárlóközpont

More details
A Recart is az ikonikus irodaházat választotta

A Recart is az ikonikus irodaházat választotta

More details
Magyar nyelv az üzleti életben: fontos vagy nem?

Magyar nyelv az üzleti életben: fontos vagy nem?

More details
Ügyfelek, nehéz szituációk? Meg kell oldani! Na de hogyan?

Ügyfelek, nehéz szituációk? Meg kell oldani! Na de hogyan?

More details
Országos Étterem Hét, 2025. október 2-19.

Országos Étterem Hét, 2025. október 2-19.

More details
Az Üzleti Hírszerzés portál kiadója az O|G|H - Open Gates Hungary Kft. - O|G|H - a hír szerzője