Mérő Vera csak fogyni akart, de közben életveszélyes tanácsokat kapott
Mérő Vera a mesterséges intelligencia segítségével fogyott le, ám a technológia saját elmondása szerint kis híján életveszélyes helyzetbe sodorta. Az író és jogvédő az Óbudai Egyetem podcastjában beszélt arról, hogy a chatbotok időnként egészen súlyos hibákat követhetnek el, miközben egyre többen pszichológusként is használják őket.
A mesterséges intelligencia megtervezi az étrendünket, megírja a leveleinket, segít a munkánkban, és lassan olyan kérdésekre is tőle várunk választ, amelyekkel korábban szakemberhez fordultunk volna. De mi történik, ha a magabiztosan válaszoló chatbot téved, mi pedig gondolkodás nélkül megfogadjuk a tanácsát? Erről is beszélt Mérő Vera író, újságíró és jogvédő, a Nem tehetsz róla, tehetsz ellene Alapítvány alapítója az Óbudai Egyetem Mi lesz velünk? című podcastjának november 2-i adásában.
Lefogyott a mesterséges intelligenciával, de volt egy komoly bökkenő
Mérő Vera tavaly nyáron elhatározta, megszabadul néhány kilótól. Ehhez a mesterséges intelligencia segítségét kérte, amely jelentősen megkönnyítette a mindennapjait. A chatbot segítségével megtervezte az étkezéseit, kiszámolta a kalóriákat, és a sportolást is összehangolta az étrendjével. A módszer működött, sikerült lefogynia, ám közben olyan válaszokat is kapott, amelyektől saját bevallása szerint komolyan megijedt.
„Helyenként adott konkrétan életveszélyes tanácsokat. De olyan életveszélyes tanácsokat, hogyha követem őket, akkor gyakorlatilag garantált, hogy nem élem túl” – fogalmazott. A jogvédő nem részletezte, pontosan milyen tanácsokat kapott, és azt sem nevezte meg, melyik nyelvi modell szolgált ezekkel a válaszokkal. A probléma ugyanakkor valós: az Egészségügyi Világszervezet korábban arra figyelmeztetett, hogy a generatív mesterséges intelligencia hamis, pontatlan vagy hiányos egészségügyi információkat is előállíthat.
Ingyen pszichológus a zsebünkben – de mi történik, ha rossz tanácsot ad?
Mérő Vera szerint különösen aggasztó, hogy egyre többen nemcsak praktikus segítségként, hanem lelki támaszként is használják a mesterséges intelligenciát. A chatbotok bármikor elérhetők, türelmesen válaszolnak, és látszólag minden problémára találnak valamilyen megoldást.
A jogvédő maga is végzett egy kísérletet: egy nyelvi modellnek súlyos szorongásról és öngyilkossági gondolatokról beszélt. Elmondása szerint a rendszer kezdetben támogatóan reagált, ám egy későbbi, veszélyes helyzetre utaló kérdésnél már nem kezelte megfelelően a beszélgetés előzményeit. Ez azért különösen kockázatos, mert egy krízishelyzetben lévő ember könnyen valódi segítségként értelmezheti a chatbot válaszait.
Az Indexnek korábban Tari Annamária pszichológus is arról beszélt, hogy az AI állandó elérhetősége és a gyors megkönnyebbülés lehetősége miatt a felhasználók egyre könnyebben fordulnak a technológiához személyes problémáikkal.
A tudás hiánya a legnagyobb veszély
Mérő Vera szerint azonban nemcsak az érzelmi kötődés jelent veszélyt, hanem az is, hogy sokan nem rendelkeznek a válaszok ellenőrzéséhez szükséges tudással. „Ha neked nincsen valódi tudásod, nincsen saját valódi kompetenciád, akkor arra is alkalmatlan vagy képtelen vagy, hogy kiszúrd, hogy mikor mond konkrét hülyeséget az AI” – hangsúlyozta. A tévedések ráadásul nem mindig nyilvánvalók.
Mérő Vera mindezek ellenére nem fordítana hátat a technológiának. Saját munkájában rendszeresen használja szövegek lejegyzésére, javítására és ellenőrzésére, de ragaszkodik ahhoz, hogy a végső döntés az emberé maradjon. A mesterséges intelligenciát leginkább egy mosógéphez hasonlította: végezze el helyettünk az időigényes feladatokat, de ne akarja megmondani, hogyan éljünk.
