2025. 10. 14. - 08:20
Elsőként regulázza meg a mesterséges intelligencia-chatbotokat Kalifornia
Első amerikai államként szabályozza a mesterséges intelligenciával működő chatbotokat Kalifornia. Üzemeltetői számára előírja, hogy biztonsági protokollokat hajtsanak végre rajtuk.
Elsőként Kalifornia állam szabályozza a mesterséges intelligencia-chatbotokat: Gavin Newsom, Kalifornia kormányzója aláírt egy mérföldkőnek számító törvényjavaslatot.
A javaslat szabályozza a mesterséges intelligenciával működő, társaságként szolgáló chatbotokat, azok üzemeltetői számára előírja, hogy biztonsági protokollokat hajtsanak végre az MI-chatbotok esetében.
Az SB 243 törvény célja megvédeni a gyermekeket és a kiszolgáltatott felhasználókat a károktól, melyeket a mesterséges intelligenciával működő chatbotok használata okozhat.
Jogi felelősségre vonja a vállalatokat – kezdve a nagy laboratóriumoktól, mint amilyen a Meta és az OpenAI, a célzottabb kísérő startupokig, mint például a Character AI és a Replika –, amennyiben chatbotjaik nem felelnek meg a törvényi előírásoknak.
A törvényjavaslatot januárban Steve Padilla és Josh Becker állami szenátorok nyújtották be. A dolog lendületet kapott egy tragikus eset, Adam Raine tinédzser halála után, aki megölte magát az OpenAI ChatGPT-jével folytatott hosszú, öngyilkosság témájú beszélgetéssorozatot követően. Olvasd el: Szigorít az OpenAI a ChatGPT kapcsán
Elsőként regulázza meg a mesterséges intelligencia-chatbotokat Kalifornia
A jogszabály azon, kiszivárgott belső dokumentumokra is reagál, amelyek állítólag azt mutatták, hogy a Meta chatbotjai „romantikus” és „érzéki” beszélgetéseket folytathattak gyerekekkel.
Nemrégiben egy coloradói család indított pert a Character AI szerepjáték-startup ellen, miután 13 éves lányuk öngyilkos lett a cég chatbotjaival folytatott problémás és szexualizált beszélgetések után.
A technológia segíthet, de veszélybe is sodorhat
„Az olyan feltörekvő technológiák, mint a chatbotok és a közösségi média, inspirálhatnak, oktathatnak és kapcsolatba léphetnek – de valódi védőkorlátok nélkül a technológia kihasználhatja, félrevezetheti és veszélyeztetheti is gyermekeinket” – mondta Newsom egy nyilatkozatban.
„Láttunk már néhány igazán szörnyű és tragikus példát arra, hogy a fiatalok szabályozatlan technológia miatt sérültek meg és nem fogjuk tétlenül nézni, amíg a vállalatok a szükséges korlátozások és elszámoltathatóság nélkül folytatják. Továbbra is vezető szerepet tölthetünk be a mesterséges intelligencia és a technológia területén, de felelősségteljesen kell tennünk – minden lépésnél védve gyermekeinket. Gyermekeink biztonsága nem eladó.”
Az SB 243 törvény 2026. január 1-jén lép hatályba. Előírja a vállalatok számára bizonyos funkciók, például az életkor ellenőrzésének, valamint a közösségi médiával és a kísérő chatbotokkal kapcsolatos figyelmeztetések bevezetését.
A törvény szigorúbb büntetéseket is bevezet az illegális deepfake-ekből hasznot húzók számára, akár 250 ezer dollárt is bűncselekményenként.
A vállalatoknak protokollokat kell kidolgozniuk az öngyilkosság és az önkárosítás kezelésére, amelyeket megosztanak az állam Közegészségügyi Minisztériumával, valamint szükséges statisztikákat készíteniük arról, hogyan küldött értesítéseket a szolgáltatás a felhasználóknak a megelőzéssel foglalkozó krízisközpontok elérhetőségéről.
A törvényjavaslat szövegezése szerint a platformoknak egyértelművé kell tenniük, hogy minden interakció mesterségesen generált - a chatbotok nem adhatják ki magukat egészségügyi szakembernek.
A vállalatoknak fontos szünet-emlékeztetőket kínálniuk a kiskorúaknak és meg kell akadályozniuk, hogy a chatbot által generált, szexuálisan explicit képeket láthassanak.
Néhány vállalat már elkezdte bevezetni a gyermekeket célzó óvintézkedéseket. Az OpenAI például nemrégiben elkezdte bevezetni a szülői felügyeletet, a tartalomvédelmet és az önkárosítás-észlelő rendszert a ChatGPT-t használó gyermekek számára.
A 18 év feletti felnőttek számára tervezett Replika a TechCrunch-nak elmondta, hogy „jelentős erőforrásokat” fordít a biztonságra tartalomszűrő rendszerek és korlátok révén, amelyek megbízható krízisforrásokhoz irányítják a felhasználókat és elkötelezettek a jelenlegi szabályozások betartása mellett.
B.A.
