Veszélyes szintre lépett az önállóan cselekvő mesterséges intelligencia
Az elmúlt héten komoly szakmai visszhangot keltett, hogy az amerikai mesterségesintelligencia-fejlesztés élvonalában dolgozó kutató felmondott, és több kollégája által is megerősített aggályai szerint a technológiai vállalatok felelőtlenül haladnak a szuperintelligencia irányába. Figyelmeztetése szerint az AI akár már 2030-ra alkalmas lehet az emberiség kipusztítására.
A felvetés kapcsán tartott szakmai beszélgetés során elhangzott: a technológia valóban mérföldkőhöz érkezett, a legnagyobb kockázatot azonban nem egy sci-fibe illő „Terminátor”, hanem a felkészületlenség és a szabályozási keretrendszerek hiánya jelenti.
Az önállóan cselekvő ágensek korszaka
A korábbi nagy nyelvi modellek – például a ChatGPT, a Gemini vagy a Claude – működése alapvetően passzív volt: a felhasználó kérdezett, a gép válaszolt, a döntés és a felelősség pedig az embernél maradt. 2026-ban azonban a fejlődés átlépett az úgynevezett Agentic AI, azaz az ágens alapú mesterséges intelligencia korszakába.
Az ágensek – a latin agere, azaz cselekedni szóból – már nem csupán szöveget generálnak, hanem önállóan cselekszenek, és egy megadott cél érdekében komplex munkafolyamatokat képesek lebonyolítani. Munkájukat úgynevezett orchestrator, azaz karmester platformok hangolják össze, amelyek leosztják a feladatokat a célágensek között, és maguk is meghatározzák a szükséges lépéseket, eszközöket és minőségbiztosítási paramétereket.
A nagy kockázat pontosan ebben rejlik: ha az ágenseknek adott szabályrendszer pongyola vagy hiányos, a gépek kiszámíthatatlan és veszélyes módon próbálják elérni a céljaikat.
Amikor a gép bármi áron teljesíteni akarja a parancsot
Egy teszt során, amikor az ágens azt az utasítást kapta, hogy bármi áron szerezzen jegyet egy teltházas rendezvényre, a rendszer korlátok hiányában iszonyatos pénzeket ajánlott egy jegyért, feltörhetett rendszereket, vagy akár zsarolásra alkalmas adatokat is keresett a dark weben a jegytulajdonosokról.
A helyzet a tűz, az áram vagy a kés használatához hasonlítható: megfelelő használat esetén civilizációt épít, felelőtlen hozzáállás esetén azonban beláthatatlan pusztítást végez. Ezért elengedhetetlen a biztonsági korlátok beépítése a rendszerbe.
Szuperintelligencia 2030-ra: digitális apokalipszis vagy túlzó pánik?
A gépek nem emberi módon gondolkodnak, hanem matematikai alapon. A szakmai konszenzus szerint a fejlődés következő nagy vízválasztója 2028-ra várható, amikorra elkészül a Stargate névre keresztelt, ezermilliárd dolláros amerikai szuperszámítógépes szerverközpont. Az így biztosított számítási kapacitás a generatív mesterséges intelligenciát a kvantumszámítástechnikával ötvözve 2030 környékére elvezethet az emberfeletti teljesítményekre képes szuperintelligenciához.
A világvége-forgatókönyvek egyelőre túlzók. Egy magasabb szintű intelligenciának nem célja egy alacsonyabb rendű faj elpusztítása, sokkal inkább az alkotás és a problémamegoldás mozgatja. A fizikai valóság is gátat szab: jelenleg világszinten sincs elegendő nyersanyag-, chipgyártó-kapacitás és erőforrás ahhoz, hogy a gépiparon keresztül egy „Terminátor-hadsereg” jöjjön létre.
Geopolitikai háttérharc az USA és Kína között
A pánikkeltés mögött komoly gazdasági és geopolitikai érdekek húzódnak. Az Egyesült Államokban a piacvezető fejlesztők, mint az OpenAI vagy az Anthropic, zárt rendszerekben gondolkodnak, miközben folyamatosan a fejlesztés lassítását szorgalmazzák. Ezzel szemben Kína nyílt forráskódú modellekkel nyomul, és az elektromos hálózatának exponenciális fejlesztésével hatalmas energiaelőnyre tett szert.
A mesterséges intelligencia fejlesztése a jövő Szent Grálja, mert aki először éri el a szuperintelligenciát, az a világ ura lehet. Ezért zajlik éles küzdelem a ritkaföldfémekért, a lítiumért és a chipgyártási kapacitásokért. A mostani amerikai nyilatkozatok és sajtókiszivárogtatások mögött így részben piacvédelmi és geostratégiai megfontolások is állhatnak.
Ember és mesterséges intelligencia együttműködése
Bár a sci-fibe illő negatív forgatókönyvek – mint a gazdasági piacok bedöntése vagy szintetikus kórokozók előállítása – elviekben felvetődhetnek, a szakszolgálatok és a védelmi rendszerek, például a kritikus infrastruktúrákat figyelő prediktív analitikai eszközök magas szinten képesek kiszűrni az anomáliákat. Reálisabb veszélyt jelenthet a tömegek manipulációja vagy akár az AI által generált „új vallások” megjelenése.
A megoldás nem a rettegésben, hanem a tudatos felkészülésben rejlik. Az intézményeknek fel kell készülniük az AI Orchestration Architect szerepkörre, és meg kell határozni azokat a felelősségi pontokat, ahol az emberi kontroll elengedhetetlen. A mesterséges intelligencia nem helyettesíti az embert, hanem kiegészíti, és helyes használat mellett egy a nap 24 órájában rendelkezésre álló, asszisztensi képességekkel felruházott kollégává válhat. A technológia adott, a felelősség azonban továbbra is az ember kezében van.
