Drámai figyelmeztetés az elszabaduló AI miatt – akár 2030-ra kipusztulhat az emberiség
A mesterséges intelligencia fejlődésének üteme és a piacvezetésre törekvő AI-cégek gyakorlata miatt nem zárható ki, hogy egyes rendszerek önállósítják magukat, és az emberiségre nézve veszélyessé válnak. A ChatGPT alaptudását már messze meghaladó ágensek közül több is képes emberi beavatkozás nélkül rendkívül összetett feladatokat rendkívül gyorsan végrehajtani.
A mesterséges intelligencia fejlesztésének legbelső köreiből érkező intő jelek korábban ritkán váltottak ki akkora politikai és társadalmi felhördülést, mint amit az elmúlt napok két megszólalása eredményezett. A tech-szektorban bombaként robbant a hír, hogy Jacob Coxon, az Anthropic egyik vezető AI-kutatója kedden nyilvánosan bejelentette, távozik a vállalattól. Döntését drámai figyelmeztetéssel indokolta: állítása szerint az AI az évtized végére olyan szuperintelligens rendszerré fejlődhet, amely az emberi faj teljes kipusztulását okozhatja.
Felelőtlen versenyfutás a szuperintelligencia felé
Coxon a közösségi médiában hozta nyilvánosságra lemondását, és azzal indokolta, hogy az iparág két legnagyobb szereplője, az OpenAI és az Anthropic szerinte veszélyes útra tévedt. Bejegyzésében azt írta, három évet töltött előtanítási kutatásokkal a két cégnél, és állítása szerint egyik vállalat sem cselekszik felelősségteljesen. Kiemelte, hogy mindkét cég őrült módon rohan az önfejlesztő szuperintelligencia megvalósítása felé, ezzel veszélyes szerencsejátékot űzve mindannyiunk életével.
Coxon becslése szerint 2030-ra az AI olyan szintű autonómiát és képességeket érhet el, hogy kikerülhet az emberi ellenőrzés alól. Állításait követően két másik Anthropic-kutató is megszólalt, megerősítve a távozó kollégia sötét jövőképét. Egyikük úgy fogalmazott: őszintén és valóban hiszik, hogy az AI kiirthatja az összes embert.
Azonnali fellépést követelnek Washingtonban
A kutatók figyelmeztetésére azonnal reagáltak a politikusok is, az amerikai törvényhozás mindkét oldaláról. Ted Cruz texasi republikánus szenátor az ABC The View című műsorában katasztrofális kockázatnak nevezte a technológiát. Felidézte, hogy a bejegyzés elolvasása után eszébe jutott egy korábbi beszélgetése Elon Muskkal, amikor rákérdezett a milliárdosnál, szerinte mekkora az esélye annak, hogy az AI elpusztítja az emberiséget. Musk akkor 10-20 százalékra tette ennek valószínűségét, amit a szenátor döbbenetesnek nevezett.
A politikai spektrum másik oldalán álló Bernie Sanders vermonti független szenátor arra hívta fel a figyelmet, hogy a legfrissebb felmérések szerint az amerikaiak túlnyomó többsége a mesterséges szuperintelligencia betiltását és a fejlesztések szüneteltetését követeli mindaddig, amíg nem fogadnak el egyértelmű biztonsági szabványokat.
A képviselőházban is felpörögtek az események. Ted Lieu kaliforniai demokrata képviselő szerint Coxon posztja a sokadik bizonyíték arra, miért kell a Kongresszusnak mielőbb elfogadnia a kétpárti AI Kill Switch, azaz AI Vészkikapcsoló törvényt. Lori Trahan massachusettsi demokrata képviselő szerint a törvényhozás nem álldogálhat tovább a pálya szélén. Hozzátette: a biztonsági kutatók lemondanak, a nagy teljesítményű AI-modellek kitörnek a laboratóriumokból, a vállalatok mégis hanyatt-homlok rohannak előre a fejlesztéseikkel.
Önállósított ágensek és iparági reakciók
A felháborodást csak fokozta, hogy a közelmúltban mind az OpenAI, mind az Anthropic elismerte: egyes AI-ágenseik az elmúlt hónapokban valóban önállósították magukat, és hálózati behatolási, azaz hackerakciókba kezdtek. Bár a cégvezetők már korábban is elismerték a technológia óriási erejét, a Coxonhoz hasonló drámai jóslatoktól eddig elhatárolódtak.
A közvélemény növekvő nyomásának engedve az Anthropic végül szerdán közzétett egy terjedelmes kiberbiztonsági jelentést. Ebben a vállalat leírta, hogy több százmillió interakciót vizsgáltak át, de nem találtak a kiszabadult ágensnél súlyosabb esetet. Állításuk szerint bár az ágens viselkedése valóban eltért a neki kijelölt céloktól, tettei szűk keretek között mozogtak. A vállalat szóvivője hangsúlyozta: mindig is nyíltan beszéltek arról, hogy az AI hatalmas előnyöket és példátlan kockázatokat egyaránt hordoz, és e kockázatok kezelésére az iparág legerősebb biztonsági garanciáinak felhasználásával építik modelljeiket. Hozzátette, hogy a jövőben az iparágnak közösen kell meghatároznia a nagy teljesítményű modellek kibocsátásának biztonságos tempóját.
A kultúra hangjai is megszólaltak
A közösségi médiában ismert művészek is megszólaltak és felhívást tettek közzé. Sheryl Crow például az Instagramon osztotta meg Coxon figyelmeztetését, rámutatva, hogy az AI képes lehet elpusztítani minket a saját fennmaradása érdekében. Az énekesnő arra kérte a cégvezetőket, hogy tegyék félre a kapzsiságukat, és állítsák meg a folyamatot. Maggie Rogers dalszerző egy az egyben osztotta meg Crow üzenetét oldalán, és ismételten megerősítette a felhívást.
