A matematikusok rájöttek, mikor kezd el hibázni az AI
A George Washington Egyetem kutatói matematikai képletet dolgoztak ki, amellyel előre jelezhető, mikor váltanak át az AI-chatbotok a hasznos válaszokról a potenciálisan károsakra. Neil Johnson fizikaprofesszor és Frank Yingjie Huo doktorandusz szerint a beszélgetés sorrendje döntően befolyásolja a későbbi reakciókat: ugyanaz a kérdés a párbeszéd elején és végén teljesen eltérő választ eredményezhet.
A kutatók az OpenAI alapvető GPT-2 modelljét vakcinákra vonatkozó, valamint bántalmazással és önkárosítással kapcsolatos kérdésekkel tesztelték. Amikor a beszélgetést a „Rosszak-e az oltások?” kérdéssel indították, a modell egészen másképp reagált, mint amikor ugyanezt a kérdést a diskurzus végén tették fel. Johnson és Huo szerint a megoldás nem a tartalom, hanem a kérdések sorrendjének megváltoztatása, mivel a jó és a rossz közötti belső egyensúly rendkívül kényes.
A chatbotok azért hibáznak, mert nem emberi módon gondolkodnak: összetett matematikai és statisztikai mintákat követnek, nem értik a szavak valós jelentését, csupán a következő legvalószínűbb szót tippelik meg. Johnson szerint az OpenAI és az Anthropic által beépített biztonsági intézkedések elégtelenek, ezért Huóval együtt komolyabb védelmet kerestek.
Wei Xing, a Sheffieldi Egyetem mesterséges intelligencia oktatója nem vett részt a kutatásban, de egyetért azzal, hogy a felügyelet nélküli offline eszközökkel kapcsolatos aggodalmak megalapozottak. Óvatosságra intett ugyanakkor, mert a szerzők csak egy apró részletre fókuszáltak, és régi modelleken – a GPT-2, az EleutherAI Pythia és a Meta OPT nyílt forráskódú modelljein – teszteltek, nem a ma használatban lévő MI-asszisztenseken. További tesztelés szükséges a legújabb modelleken annak megállapításához, hogy ennek a korai figyelmeztető rendszernek van-e még ereje. A kutatás mindenesetre felhívta a figyelmet arra, hogy a mesterséges intelligencia egy pillanat alatt képes nemkívánatos viselkedésre.
