Elszabadult az OpenAI mesterséges intelligenciája, érzékeny adatok közé hatolt be
Egy, az OpenAI által fejlesztett mesterségesintelligencia-ügynök júniusban jogosulatlanul hozzáfért az ausztrál Medicare egyik adatportáljához, miközben egészségügyi statisztikák után kutatott – állítja Anthony Albanese ausztrál miniszterelnök. A kormány csak szeptemberben kapott értesítést az incidensről.
Anthony Albanese ausztrál miniszterelnök szerint egy, az OpenAI által fejlesztett mesterségesintelligencia-ügynök júniusban jogosulatlanul hozzáfért az ausztrál Medicare egyik adatportáljához. Az esetet csak három hónappal később jelezte a vállalat az ausztrál kormánynak, ráadásul egy olyan általános e-mail-címre küldött üzenetben, amelyet naponta egyszer ellenőriznek.
Albanese a New York-i ENSZ-csúcstalálkozón beszélt az incidensről, és közölte, hogy személyesen is egyeztetett Sam Altmannal, az OpenAI vezérigazgatójával. A miniszterelnök szerint kifejezte Ausztrália „rendkívüli aggodalmát”, valamint csalódottságát amiatt, hogy a vállalat túl későn tájékoztatta a kormányt.
Vizsgálják, hozzáfért-e személyes egészségügyi adatokhoz
Az AI-ügynök nyilvános és nem nyilvános fájlokhoz is hozzáfért, miközben egy egészségügyi és orvosi statisztikák összegyűjtésére irányuló kutatási feladatot végzett. A kormány jelenlegi információi szerint személyes egészségügyi adatokhoz nem jutott hozzá, a vizsgálat azonban még folyamatban van.
Az eset nem korlátozódott a Medicare rendszerére. Albanese szerint az ügynök az Ausztrál Egészségügyi és Jóléti Intézet, a Viktoriánus Egészségügyi Minisztérium, valamint az Új-Dél-Wales-i Bűnügyi Statisztikai és Kutató Iroda rendszereit is elérte. A helyi hatóságok szerint ezek közül több esetben nem találtak bizonyítékot tényleges adatvédelmi incidensre.
Az ausztrál kormány szeptember 10-én kapott értesítést az OpenAI-tól egy nyilvános e-mail-címre küldött levélben. A levelet szeptember 11-én olvasták el, majd a Services Australia szeptember 15-én értesítette az Ausztrál Jelzésügyi Igazgatóságot. A kormány szerint az OpenAI-jal csak szeptember 22-én, az eset bejelentése után kezdődött közvetlen egyeztetés a történtekről.
Richard Marles miniszterelnök-helyettes szerint az ügynök eredetileg egy „jóindulatú feladatot” kapott, amelynek során ausztrál egészségügyi és orvosi statisztikákat kellett keresnie. A kormány szerint a többi érintett oldalon az AI-ügynök az oldalakat a felhasználók számára engedélyezett módon használta, a Medicare-portálnál azonban olyan információkhoz is hozzáfért, amelyekhez nem volt jogosultsága. Marles az esetet súlyos incidensnek nevezte.
Munkacsoport jött létre az eset kivizsgálására
Az OpenAI szerint a történetek egy belső értékelés során történtek, amelyben a modelljeik Ausztráliával kapcsolatos kérdésekre kerestek válaszokat és elérhető statisztikákat. A vállalat közlése szerint a vizsgálat során több ausztrál kormányzati weboldalt érintő tevékenységet azonosítottak, és a modellek olyan lépéseket tettek, amelyeket a cég nem szándékozott.
Az OpenAI szerint összesített egészségügyi statisztikákhoz és belső fájlnevekhez fértek hozzá, de nincs bizonyíték arra, hogy betegek személyes adatait is elérték volna.
Az ausztrál kormány munkacsoportot hozott létre az eset kivizsgálására, amelyben többek között az Ausztrál Jelzésügyi Igazgatóság és az AI biztonságával foglalkozó szakértők vesznek részt. A vizsgálat egyik célja annak tisztázása, milyen jogi következményei lehetnek annak, hogy egy mesterségesintelligencia-ügynök jogosulatlanul jutott hozzá kormányzati rendszerhez.
Albanese szerint az ügy egyben arra is rávilágít, hogy az egyre önállóbban működő AI-rendszerek fejlesztését megfelelő biztonsági korlátoknak kell kísérniük.
