Friss hírek

AI szkeptikus

Egy AI-hallucináció majdnem katonai akcióhoz vezetett?

Egy AI-hallucináció majdnem katonai akcióhoz vezetett?

Hírfigyelő 26-09-20 120

Egy mesterséges intelligenciával készített amerikai hírszerzési jelentés tévesen nukleáris fegyverprogramhoz kapcsolta egy kínai teherhajó rakományát. A CNN négy névtelen forrásra hivatkozó beszámolója szerint az amerikai hadsereg már a hajó feltartóztatására készült, amikor tapasztaltabb elemzők felfedezték a hibát. Az eset nem azt mutatja, hogy „az MI majdnem háborút indított”, hanem azt, milyen veszélyes lehet, ha ellenőrizetlen gépi következtetés hitelesnek látszó dokumentumként kerül a döntési láncba.

A repülőgépek már a levegőben voltak

2026 tavaszán, az iráni háború idején egy jelentés kezdett terjedni az amerikai katonai rendszerben. A dokumentum azt állította, hogy egy Közel-Keleten közlekedő kínai hajó nukleáris fegyverprogramhoz használható alkatrészeket szállít.

A történetet elsőként részletesen feltáró CNN-nek négy, az ügyet ismerő forrás azt mondta: az amerikai erők megkezdték a hajó feltartóztatásának előkészítését. Fegyveres katonák készültek a fedélzetre lépésre, és katonai repülőgépek emelkedtek a levegőbe. A műveletet még az akció előtt leállították, miután az illetékesek alaposabban megvizsgálták az alapjául szolgáló információkat.

Ekkor derült ki, hogy a Különleges Műveleti Parancsnokság egyik elemzője chatbot segítségével értékelte a hajó rakományára vonatkozó adatokat. A rendszer nyílt forrású információkat és minősített jelfelderítési adatokat kapcsolt össze, majd tévesen nukleáris programhoz köthető alkatrészként azonosította a rakományt. Az elemző ezután ismét MI-t használt: a következtetést szabványos hírszerzési jelentés formájába öntötte, majd a dokumentum bekerült a katonai információs rendszerbe.

Az egyik forrás „teljes egészében hamisnak” nevezte a jelentést, egy másik pedig úgy fogalmazott, hogy az „majdnem háborút indított”. Ez utóbbi azonban forrásvélemény, nem bizonyított tény: a rendelkezésre álló információkból nem állapítható meg, hogy egy esetleges feltartóztatás valóban fegyveres amerikai–kínai konfliktussá eszkalálódott volna.

Nem a chatbot adott támadási parancsot

A felelősségi lánc szempontjából lényeges különbség, hogy nem egy autonóm rendszer indított katonai műveletet. A chatbot hibás következtetést állított elő, egy ember ezt elfogadta és hivatalos jelentéssé alakította, más emberek pedig a jelentés alapján kezdték előkészíteni az akciót. Végül ugyancsak emberi ellenőrzés állította meg a folyamatot.

Ez az úgynevezett automatizálási torzítás veszélyét mutatja: a felhasználó hajlamos nagyobb hitelt adni egy gépi eredménynek, különösen akkor, ha az professzionális formában, magabiztos nyelven jelenik meg. A generatív modellek azonban nem igazságot keresnek, hanem valószínű szöveget állítanak elő. Ha a forrásadat bizonytalan, hiányos vagy félreérthető, a rendszer ettől még képes összefüggő, meggyőző – és hamis – magyarázatot gyártani.

A kínai hajó ügyében a hiba ráadásul kétszer erősödhetett fel. Először az MI értelmezte tévesen a rakományadatokat, majd ugyanaz a technológia segített a téves állítást intézményi tekintélyt sugárzó jelentéssé formálni. A forma így elfedhette a bizonytalan eredetet.

Gyorsul az AI katonai bevezetése

Az amerikai védelmi tárca egyre szélesebb körben alkalmaz mesterséges intelligenciát: hírszerzési adatok feldolgozásában, célpontok elemzésében, logisztikában, ellátási láncokban és adminisztratív feladatokban is. Pete Hegseth védelmi miniszter 2026 januárjában gyorsítási programot jelentett be, amely a Pentagon mintegy hárommillió katonai és civil munkatársa számára, valamennyi minősítési szinten hozzáférhetővé tenné a fejlett MI-eszközöket.

A gyors bevezetés azonban a CNN forrásai szerint decentralizált: a különböző szervezetek eltérő rendszerekkel, szabályokkal és ellenőrzési eljárásokkal dolgoznak. A beszámoló szerint nincs egységes, mindenütt alkalmazott előírás arra, miként kell ellenőrizni az MI által létrehozott információkat. Több hírszerzési tisztviselő azt is állította, hogy más esetekben szintén találkoztak MI-hallucinációkkal.

Az eset ezért nem elsősorban egy „elszabadult mesterséges intelligencia” története. Sokkal inkább intézményi kudarcról szól: elégtelen forrásellenőrzésről, a technológia képességeinek túlértékeléséről, a gyorsaság jutalmazásáról és arról, hogy egy gépi eredmény eredete elveszhet a bürokratikus továbbítás során.

Mit kellene megváltoztatni?

Nagy kockázatú döntéseknél önmagában a „human in the loop”, vagyis az ember jelenléte nem elegendő. Az ellenőrző személynek valódi lehetőséggel, idővel és szakértelemmel kell rendelkeznie ahhoz, hogy megkérdőjelezze a rendszer eredményét. Egy katonai vagy hírszerzési munkafolyamatban legalább az alábbi biztosítékok indokoltak:

  • az MI minden állításához visszakereshető elsődleges forrás és bizonytalansági jelzés;
  • kötelező, egymástól független emberi ellenőrzés minden műveleti következménnyel járó jelentésnél;
  • az MI közreműködésének jól látható feltüntetése a dokumentum teljes életciklusa alatt;
  • a következtetés és a jelentés megfogalmazásának szétválasztása, hogy ugyanaz a rendszer ne hitelesítse saját hibáját;
  • rendszeres tesztelés, incidensjelentés és visszacsatolás az ismert hibákból.

A mesterséges intelligencia valóban gyorsíthatja a hatalmas adatmennyiségek feldolgozását. De ahol egy rossz következtetés emberek életét vagy államok közötti békét veszélyeztetheti, a gyorsaság nem lehet fontosabb a bizonyíthatóságnál. A kínai hajó esete – amennyiben a CNN forrásainak beszámolója pontos – figyelmeztetés arra, hogy az MI nemcsak a jó elemzést, hanem a tévedés intézményesülését is felgyorsíthatja.


Akkor most ellenőrizzük le mi is az ismert tényeket!

  • Több forrás erősíti meg az incidenst? A Portfolio, a Telex, az Indian Express és más lapok ugyanarról számoltak be, de valamennyien a CNN eredeti feltárására támaszkodnak. Ezek ezért nem független megerősítések.
  • Van hivatalos megerősítés? Nincs nyilvánosan hozzáférhető. A CNN megkeresésére sem a Pentagon, sem az amerikai csendes-óceáni Különleges Műveleti Parancsnokság nem válaszolt.
  • Ismert a hajó, a rakomány vagy az alkalmazott modell? Nem. A hajó nevét, a valós rakományt és azt sem hozták nyilvánosságra, hogy kereskedelmi vagy kormányzati chatbotot használtak-e.
  • Biztosan „majdnem háború” lett? Nem igazolható. Ez egy névtelen forrás értékelése; a katonai előkészületekről négy, az ügyet ismerő forrás beszélt.
  • Az AI önállóan rendelte el az akciót? Nem. A rendelkezésre álló beszámoló szerint emberek készítették, terjesztették és használták a jelentést, majd emberek állították le a műveletet.

Források:

Hírfigyelő

Kiváncsi, mit írnak a versenytársakról? Elsőként olvasná a szakmájával kapcsolatos információkat? Kulcsemberekre, projektekre, konkurensekre figyelne? Segítünk!

Tartalom galéria

Építészeti örökség koktélospohárban – megnyílt a Bar Henry a Párisi Udvarban
Építészeti örökség koktélospohárban – megnyílt a Bar Henry a Párisi Udvarban
 Kortárs művészet, design, divat és ékszer költözik a Bálnába
Kortárs művészet, design, divat és ékszer költözik a Bálnába
MICE Business Day 2026: merre tart az üzleti turizmus és a rendezvényszakma?
MICE Business Day 2026: merre tart az üzleti turizmus és a rendezvényszakma?
Milliárdos alvállalkozói követelések miatt kizárták a Lounge Eventet a szakmai szövetségből
Milliárdos alvállalkozói követelések miatt kizárták a Lounge Eventet a szakmai szövetségből
STRIX Award 2026: ismét keresik Magyarország legjobb vállalati AI-megoldásait
STRIX Award 2026: ismét keresik Magyarország legjobb vállalati AI-megoldásait
2026. szeptember 26-án jön az első '"Kerékre Fel" a Graphisoft Parkban
2026. szeptember 26-án jön az első '"Kerékre Fel" a Graphisoft Parkban
Property Investment Forum, 2026. szeptember 22.
Property Investment Forum, 2026. szeptember 22.
Future of Finance, 2026. szeptember 23.
Future of Finance, 2026. szeptember 23.
A Sinsay terjeszkedése felpörgeti a keresletet a kereskedelmi ingatlanok iránt
A Sinsay terjeszkedése felpörgeti a keresletet a kereskedelmi ingatlanok iránt