Botrány az Egyesült Államokban: Az AI-cég valójában emberekkel dolgozott
Óriási felháborodás övezte a Flock nevű startupot az Egyesült Államokban, miután kiderült, hogy a cég, amelyet a rendszám- és arcfelismerő technológiái révén mesterséges intelligenciaként emlegettek, valójában több ezer Fülöp-szigeteki munkással elemeztette a felvételeket. Ez a felfedezés telt ház előtt zajló botrányt idézett elő, és megkérdőjelezte a cég eddigi hírnevét.
A Flock, mely rendvédelmi szervek számára fejlesztett megoldásainak jelöltetett meg a mesterséges intelligencia képviselőjeként, valójában nem használt AI-t az adatfeldolgozáshoz, hanem embereket alkalmazott a feladatok elvégzésére. A Futurism beszámolója szerint a Fülöp-szigeteki munkások a járműveket szín, márka és típus alapján sorolták be, valamint ők jegyezték le a rendszámtáblákat is.
A vállalat kamerái egy központi megfigyelőhálózat részeként működnek, amelyhez a helyi rendőrség folyamatos hozzáférést kapott. A rendszer nemcsak a rendszámokat és azonosítást célzó feladatokat lát el, hanem gyalogosokat is rögzít, akik gyakran nemi vagy faji alapon kerülnek azonosításra. Ezen kamerák használatát sok esetben kiterjedt rendvédelmi hatóságok, köztük a bevándorlási hivatal (ICE) ügynökei is jóváhagyták.
Ez nem az első eset, hogy egy amerikai cég mesterséges intelligenciaként hirdeti technológiáját, amely mögött valójában emberek állnak: például az Amazon boltjaiban indiai munkások képviselik a háttérben dolgozó erőt. Azonban a Flock ügye különösen érzékenynek számít, mivel a vállalat rendkívül bizalmas adatokat kezel, és ezzel sokkal kevesebb transzparenciát biztosít, mint amit a közvélemény elvárna egy AI-alapú szolgáltatástól.
A felháborodás nyomán a fogyasztók és a jogvédő szervezetek közötti bizalom megingott, amire a retrógrás nyomai is felsejlenek. Az emberek joggal kérdőjelezik meg, hogy vajon mennyire megbízhatóak és etikusak az olyan cégek, mint a Flock, ha a biztonsági technológiai megoldások mögött nem a hirdetett intelligencia, hanem kizárólag emberek munkája rejlik.
Ezek az események rámutatnak arra, hogy a modern technológia és annak kommunikációja, különösen amikor közérdekeket érint, mennyire fontos, hogy transzparens és etikus működés legyen a cél. Ahogy a társadalom fejlődik, úgy a technológiák átvilágítása és a mögöttük rejlő mechanizmusok egyre sürgetőbbé válnak.
