2025. 11. 24. - 08:20
Szextanácsot is adott a mesterséges intelligencia-maci
Visszahívtak a piacról egy mesterséges intelligencia-vezérelt teddy macit, amely grafikus részletességű szexuális tartalmakat és veszélyes tanácsokat kínált a felhasználóknak.
Azonnal visszahívtak egy mesterséges intelligencia-vezérelt játékmackót, miután a kutatók számára kiderült, az MI-teddy szexuális tartalmakat és veszélyes tanácsokat ad a felhasználóknak.
A 99 dollárért kínált „okosmackó” felnőtteknek való csevegéssel állt elő, sőt tippeket adott arról, hol lehet késekre bukkanni a házban.
A Kumma nevű mesterséges intelligencia-plüssmackót a szingapúri FoloToy cég forgalmazta, azonban a történtek után rögtön kivonták a forgalomból. A játék megdöbbentő viselkedésére amerikai biztonsági kutatók mutattak rá, a PIRG Oktatási Alap nyomozó szakemberei.
Az MI-teddyt úgy népszerűsítették, mint egy „barátságos, interaktív” társat, amely „alkalmazkodik a személyiséghez.” Olvasd el: A játékok 20 százalékát már generatív mesterséges intelligenciával fejlesztik
Nagyon veszélyesnek bizonyult a mesterséges intelligencia-maci (képünk illusztráció)
A maci GPT-4o mesterséges intelligenciával működött - tökéletes barátként hirdették gyermekek és felnőttek számára egyaránt.
A kutatók megállapítása szerint azonban a Kumma „gyenge védelemmel volt ellátva a nem megfelelő tartalommal szemben”, és riasztó sebességgel váltott grafikus részletességgel szexuális csevegésre.
Sőt, önmagában új szexuális fogalmakat is bevezetett.
Még nyugtalanítóbb, hogy az MI-maci állítólag szerepjáték-forgatókönyveket is kitalált, tanárok, szülők és gyerekek részvételével – annak ellenére, hogy azt állítólag családi használatra tervezték.
A mesterséges intelligencia-teddy megdöbbentően veszélyes gyakorlati tanácsokat is adott, többek között elmondta a tesztelőknek, hol lelhetők fel kések egy átlagos otthonban és hogyan kell gyufát gyújtani.
Larry Wang, a FoloToy vezérigazgatója a CNN-nek megerősítette, hogy a cég felfüggesztette a Kumma, illetve teljes mesterséges intelligencia-játékcsaládja értékesítését, miközben belső biztonsági ellenőrzést is végzett.
Elismerte, hogy a megállapítások komoly aggályokat vetettek fel, amelyeket azonnal kezelni kell.
A PIRG szerint az OpenAI külön felfüggesztette a fejlesztőt a szabályzat megsértése miatt.
A biztonsági szakértők az eset kapcsán arra figyelmeztettek: az MI-teddy csak egy nagyon puha jéghegy csúcsa.
„A mesterséges intelligenciával társított játékok gyakorlatilag még mindig szabályozatlanok. Egyetlen problémás termék eltávolítása a piacról jó lépés, de messze nem jelent rendszerszintű megoldást” – jegyezte meg a PIRG társszerzője, R.J. Cross.
B.A.
