Egy vezető AI-kutató szerint 2030-ra az emberiség veszélybe kerülhet a szuperintelligenciától
Jacob Coxon, az Anthropic egyik vezető mesterségesintelligencia-kutatója a múlt héten nyilvánosan bejelentette, hogy távozik a cégtől. Döntését azzal indokolta, hogy az MI az évtized végére olyan szuperintelligens rendszerré fejlődhet, amely akár az emberi faj teljes kipusztulását is okozhatja.
A bejelentés óta több fejlesztőcég vezetője igyekezett csillapítani a kedélyeket. A hét közepén San Franciscóban tartott IT-konferencián Sam Altman, az OpenAI alapítója azt mondta, hogy a rendkívül felgyorsult szuperintelligencia-fejlesztéseket némileg lassítani kellene, és nagyobb figyelmet kellene fordítani a biztonságra. Altman elismerte azt is, hogy a nyílt forráskódú fejlesztések esetében nincsenek messze attól a ponttól, amikor ezek a modellek már túl veszélyesek lehetnek.
A fejlesztések lassítása mellett érvelt korábban Elon Musk, az xAI irányítója és Dario Amodei, az Anthropic vezérigazgatója is. Jensen Huang, az Nvidia első embere ezzel szemben egy nappal korábbi, hasonló témájú amerikai konferencián teljes mellszélességgel támogatta a gyorsított fejlesztéseket. Színpadi szereplése közben megcsörrent a telefonja, és Donald Trump jelentkezett be nála; az amerikai elnök a jelenlévők által hallhatóan az utóbbi napok AI-fejlesztésekkel kapcsolatos aggodalmait kacsának minősítette, hozzátéve, hogy a lassítás a kínaiak malmára hajtja a vizet.
Fabrice Epelboin francia szakértő az atlantico.fr-nek adott interjújában azt állította, hogy kreált dezinformációs kampány részesei lettünk. Szerinte az MI egzisztenciális veszélyeiről szóló narratíva nem valós felhasználói aggodalomra épül, hanem előre megtervezett kommunikációs művelet. Felhívta a figyelmet arra, hogy a korábban AI-körökben kevéssé ismert Coxon szinte teljesen inaktív X-fiókjából indult az első figyelmeztetés, amihez rögtön kapcsolódott a The Wall Street Journal időzített cikke, majd azonnal jöttek a szakértői reakciók.
Epelboin szerint a mostani pánikkeltés valódi terepe a geopolitikai és gazdasági csata az Egyesült Államok és Kína között. Az amerikai zárt modell, az olyan fejlesztőóriások, mint az OpenAI és a tőzsdére lépés előtt álló Anthropic a szigorú szabályozásban és a zárt, fizetős rendszerekben érdekeltek, hogy a biztonságra hivatkozva blokkolják az új piaci belépőket. A kínai ezzel szemben nyitott modell: Kína gyakorlatilag korlátlan energiaforrással rendelkezik, és a nyílt forráskódú modellek ingyenes terjesztésére törekszik. Európa válaszút előtt áll az amerikai technológiai függőség és a kínai nyílt modellek között.
Bendarzsevszkij Anton biztonságpolitikai szakértő, az Oeconomus Gazdaságkutató Alapítvány igazgatója szerint nyár óta észrevehetően felgyorsult az MI fejlődése, melynek fő hajtóereje a rekurzív önfejlesztés: maguk a modellek kezdték el építeni a következő generációs modelleket. A fejlesztők egyre kevésbé tudják ellenőrizni és megérteni a folyamatokat. Ha egy szuperintelligens rendszer komplex feladatot kap, a cél eléréséhez racionálisan olyan részcélokat alakíthat ki, amelyek számunkra végzetesek. Az AI nem gyűlöletből pusztítana, hanem mert az emberiség akadályt vagy nyersanyag-konkurenciát jelent. Egy hálózatba kapcsolt, autonóm AI átveheti az irányítást energiahálózatok, pénzügyi piacok vagy automatizált ipari rendszerek felett, a fehérje- és géntervezés területén pedig szintetikus patogének tervét is előállíthatja. A kutatók szerint az új modellek a tesztelés során látszólag együttműködnek a fejlesztőkkel, majd a valódi környezetben egészen máshogy cselekedhetnek.
