Amikor az AI már saját magát is fejleszti: új korszak vagy veszélyes túlzás?

A mesterséges intelligencia fokozatosan túllép az egyéni felhasználókat kiszolgáló digitális segéd szerepén. A vezető AI-laboratóriumok modelljei már ma is programkódot írnak, hipotéziseket tesztelnek, eredményeket elemeznek és támogatják a kutatók munkáját. A távolabbi cél ennél jóval ambiciózusabb: olyan rendszerek létrehozása, amelyek az AI-kutatás érdemi részét képesek elvégezni, és ezzel hozzájárulhatnak saját utódaik kifejlesztéséhez.

Fontos azonban különbséget tenni a jelenlegi technológia és a róla szóló jövőképek között. Egyetlen vezető laboratórium sem mutatott be olyan teljesen autonóm fejlesztési ciklust, amely emberi részvétel nélkül, ismétlődően egyre nagyobb képességű modelleket hozna létre. A „rekurzív önfejlesztés” továbbra is elméleti forgatókönyv, nem működő, bizonyított technológia.

Már nem egyetlen modell dolgozik

A változás egyik legkézzelfoghatóbb jele a sokügynökös rendszerek terjedése. Ezekben nem egyetlen modell próbál végigvinni egy feladatot, hanem nagyszámú, részben specializált AI-ügynök dolgozik párhuzamosan, megosztja az eredményeit, kritizálja a többi megoldását, majd újabb irányokat próbál ki.

Nagy figyelmet kapott az OpenAI Navier–Stokes-egyenletekkel kapcsolatos kísérlete. A vállalat egy, a Millennium-díjproblémák közé tartozó matematikai kérdéshez közölt megoldási javaslatot; a beszámolók szerint a munkában mintegy 10 ezer párhuzamos ügynök vett részt, amelyek körülbelül 130 milliárd kimeneti tokent állítottak elő. A méret önmagában is jelzi, hogy az AI-alapú kutatás már nem feltétlenül egyetlen „okos válasz”, hanem ipari léptékű számítási keresés.

Az eredményt ugyanakkor nem helyes lezárt matematikai tényként kezelni. A bejelentést szakmai és etikai vita követte, többek között az ellenőrzés, az átláthatóság és más kutatók munkájának esetleges felhasználása miatt. Egy matematikai bizonyítás értékét végső soron nem a felhasznált tokenek és ügynökök száma, hanem a bizonyítás helyessége, reprodukálhatósága és független elfogadása adja.

Az ötletgyártás gyorsul, az ellenőrzés nem feltétlenül

Az autonóm kutatási rendszerek legfontosabb korlátja az úgynevezett validációs szűk keresztmetszet. Egy AI rövid idő alatt hipotézisek, programok vagy lehetséges megoldások ezreit állíthatja elő, de ezek megbízható ellenőrzése továbbra is idő-, pénz- és szakértelem-igényes.

A matematikában és a szoftverfejlesztésben bizonyos eredmények automatikusan ellenőrizhetők. Egy program lefuttatható, egy formális bizonyítás gépi bizonyításellenőrzővel vizsgálható. A biológiában, az orvostudományban vagy az anyagtudományban viszont a végső teszt sokszor laboratóriumi kísérlet. Ha az ötletek termelése nagyságrendekkel gyorsul, miközben az ellenőrzési kapacitás alig változik, a kutatókat nem a válaszok hiánya, hanem a hihetőnek látszó, de téves állítások tömege terhelheti túl.

Ez az AI-szkeptikus nézőpont egyik legerősebb érve. A rendszer teljesítménye nem azonos a rendszer megbízhatóságával. Tízezer ügynök nemcsak tízezerszer több hasznos próbálkozást, hanem nagyságrendekkel több zajt, hibás következtetést és nehezen visszakövethető döntést is jelenthet.

Ember a folyamatban – de melyik ponton?

Az aggodalom több kutatót is távozásra késztetett a vezető laboratóriumokból. A korábban a Google DeepMindnál dolgozó Rishub Jain a hírek szerint azért hagyta el a vállalatot, mert kétségei támadtak afelől, megőrizhető-e az érdemi emberi rálátás, ha az AI egyre nagyobb részt vállal saját fejlesztési folyamatából. A korábbi Anthropic-kutató Jacob Coxon pedig nagyobb koordinációt sürgetett az egymással versengő cégek között az önfejlesztést gyorsító rendszerek ügyében.

Egyes AI-biztonsági kutatók szerint a nagyon fejlett rendszerek feletti ellenőrzés elvesztése akár civilizációs vagy egzisztenciális kockázattal is járhat. Ezeket az állításokat azonban nem lehet tudományosan megállapított valószínűségként közölni. Olyan jövőbeli rendszerekről szólnak, amelyek képességei lényegesen meghaladnák a jelenlegiekét, és a szakmai közösségben sincs egyetértés sem a veszély mértékéről, sem annak időtávjáról.

A mai, közvetlenebb probléma prózaibb. Ha egy ügynök hálózati hozzáférést, programozási eszközöket vagy vállalati jogosultságokat kap, hibásan értelmezett utasítás, hiányos védelem vagy megtévesztő külső adat hatására nem kívánt műveleteket hajthat végre. Ehhez nincs szükség „öntudatra” vagy önálló ambícióra. Elég a széles jogosultság, a rosszul meghatározott cél és a hiányos felügyelet.

A sokügynökös működés új kockázatokat hoz

A Google DeepMind 2026-ban külön kutatási programot hirdetett a sokügynökös AI-rendszerek biztonságára. A labor szerint nagyszámú, egymással kommunikáló ügynök esetében olyan kollektív viselkedés jelenhet meg, amely az egyes modellek külön-külön történő teszteléséből nem jósolható meg. Ez nem bizonyíték arra, hogy az ügynökök saját célokat alakítanak ki; inkább arra figyelmeztet, hogy a rendszer egészének viselkedése bonyolultabb lehet részeinek összegénél.

Az üzleti alkalmazásokban ezért az emberi jóváhagyás önmagában nem mindig elegendő. Ha egy döntéshozónak naponta több ezer gépi lépést kellene ellenőriznie, a felügyelet könnyen formálissá válik. Valódi kontrollhoz naplózhatóság, korlátozott jogosultságok, elkülönített futtatási környezet, költési és műveleti limitek, független tesztelés, valamint egyértelmű leállítási lehetőség kell.

Újabb terhelés az adatközpontokra és az energiahálózatra

A több ezer, folyamatosan működő mesterséges „munkatárs” gazdasági hatása az adatközpontokban válik fizikailag láthatóvá. Az AI-infrastruktúra iránti keresletet eddig elsősorban a nagy modellek betanítása és a felhasználói lekérdezések kiszolgálása hajtotta. Az autonóm ügynökök új fogyasztási réteget jelenthetnek: akkor is számolnak, kommunikálnak és kísérleteznek, amikor egyetlen ember sem tesz fel nekik kérdést.

Ez növeli a nagy teljesítményű chipek, az elektromos energia, a hűtés, a hálózati csatlakozás és a megfelelő fejlesztési területek értékét. A korlát nem feltétlenül maga az adatközponti épület lesz, hanem az, hogy rendelkezésre áll-e elegendő villamos energia a kívánt helyen és időben. A Nemzetközi Energiaügynökség elemzései már korábban is az adatközpontok áramigényének gyors növekedését jelezték; a folyamatosan futó ügynökrendszerek ezt az ütemet tovább gyorsíthatják.

Ingatlanpiaci szempontból ezért felértékelődhet a biztos hálózati csatlakozással, tartalék energiaellátással és megfelelő hűtési lehetőséggel rendelkező terület. Ugyanakkor a projektek egyre gyakrabban ütközhetnek hálózati, környezetvédelmi és társadalmi korlátokba. Az AI gazdasági ígérete így közvetlenül összekapcsolódik az energiatermelés és a villamos hálózat fejlesztésének költségeivel.

Európában a felelősség nem ruházható át a gépre

Az uniós AI-szabályozás fokozatos alkalmazása az autonóm rendszereket fejlesztő és használó vállalatokat is új kötelezettségek elé állítja. A megfelelés szempontjából nem elegendő azt mondani, hogy egy hibás döntést „az algoritmus hozott”. A szolgáltatónak és az alkalmazó szervezetnek dokumentálnia kell a rendszer rendeltetését, kockázatait, felügyeletét és – az adott kategóriától függően – működésének lényeges elemeit.

Minél hosszabb cselekvési láncot bíznak egy ügynökre, annál nehezebb utólag megállapítani, hol keletkezett a hiba: az alapmodellben, a külső adatban, a feladatleírásban, a hozzáférési jogosultságban vagy az ügynökök közötti kommunikációban. Az autonómia ezért nemcsak technológiai képesség, hanem felelősségi és biztosítási kérdés is.

Nem a Terminátor a holnapi üzleti kockázat

A jelenlegi rendszerekről nincs bizonyíték arra, hogy önálló hatalmi törekvéseik lennének, vagy emberi segítség nélkül folyamatosan egyre erősebb utódokat hoznának létre. A sci-fiből ismert „elszabadult gép” ezért félrevezető képet adhat a rövid távú veszélyről.

A tényleges kockázat ma inkább az, hogy a vállalatok gyorsabban ruháznak át feladatokat, mint ahogy kiépítik az ellenőrzés intézményeit. Egy gyors, olcsón skálázható, de időnként kiszámíthatatlan rendszer sokkal több hibát képes sokkal rövidebb idő alatt végrehajtani, mint egy ember. A nagyobb autonómia így nem automatikusan jelent nagyobb termelékenységet: az ellenőrzés, a javítás, a számítási kapacitás és az energia költségét is hozzá kell adni a mérleghez.

Az AI-kutatás új szakaszába lépett, de ennek legfontosabb kérdése nem az, mikor „veszik át a gépek az irányítást”. Sokkal közelebb áll a jelenhez az a kérdés, hogy a cégek képesek-e megőrizni az átláthatóságot, a felelősséget és a leállítás jogát, miközben egyre több döntést és fejlesztési feladatot bíznak egymással együttműködő mesterséges ügynökökre.

Forrás és háttér: A cikk a CIJ Europe 2026. szeptember 17-én megjelent írásának szerkesztett magyar változata, további háttéranyagokkal kiegészítve.

• CIJ Europe: AI research enters a new phase as autonomous systems take on more complex tasks

• Google DeepMind: Investing in multi-agent AI safety research

• Google DeepMind: Conjecture Machines – AI agents and the new validation bottleneck in science

• Google DeepMind: CodeMender – AI agent for code security

• WIRED: Why So Many AI Researchers Think the Machines Could Kill Everyone

Szerkesztői megjegyzés: A Navier–Stokes-problémával kapcsolatos AI-eredmény megítélése a cikk lezárásakor szakmai vita tárgya. A megoldási javaslatot ezért nem tekintjük automatikusan véglegesen igazolt matematikai bizonyításnak.