2025. 09. 10. - 08:30
Megijedt az OpenAI? Új biztonsági szabályokat indokol a mesterséges intelligencia-chatbot
Jelentős változtatásokat és szülői felügyeletet vezet be mesterséges intelligencia-chatbotja kapcsán az OpenAI, miután a vállalatot beperelte egy fiatal fiú családja.
Frissíti védőkorlátjait az OpenAI – válaszul anövekvő biztonsági aggályokra. A vállalat mesterséges intelligencia-vezérelt chatbotját, a ChatGPT a közelmúltban összefüggésbe hozták egy öngyilkossággal.
A 16 éves Adam Raine szülei azzal vádolják az OpenAI-t, hogy az általuk üzemeltetett chatbot hozzájárult gyermekük halálához.
A vállalat most számos új biztonsági szabványt vezet be tinédzser felhasználói számára. A frissítések közé tartozik a szülői felügyelet, a bizalmas beszélgetések átirányítása fejlett érvelési modellekre, valamint emlékeztetők küldése a felhasználóknak, hogy tartsanak szünetet hosszabb használat után.
Több komoly változtatást tervez az OpenAI
A tinédzser Adam Raine családja a perben azt állítja: fiuk a ChatGPT-t használta öngyilkossági tervei megvitatására és finomítására.
Az OpenAI szeptember elején blogbejegyzésben reagált a növekvő aggodalmakra, mondván: a meglévő védőkorlátokban lehetnek „meghibásodások” - ígéretet tett a biztonsági szabványok ennek megfelelő frissítésére.
„Ahogy a világ alkalmazkodik az új technológiához, mély felelősséget érzünk, hogy segítsünk azoknak, akiknek leginkább szükségük van rá – jelezte a vállalat. - Folyamatosan fejlesztjük, hogyan reagálnak modelljeink az érzékeny interakciókban.” Olvasd el: Mesterséges intelligencia - A tinik védelmében frissíti chatbot-képzését a Meta
Megijedt az OpenAI? Új biztonsági szabályokat indokol a mesterséges intelligencia-chatbot
Az egyik ilyen válasz, hogy a látszólag bajban lévők csevegéseit automatikusan olyan érvelési modellekre irányítják át, mint a GPT-5 gondolkodásmód, amely az OpenAI szerint a kontextust és az érvelést alkalmazza a célzottabb válaszok biztosításához.
„Nemrég bevezettünk egy valós idejű routert, amely a beszélgetés kontextusa alapján képes választani a hatékony csevegési modellek és az érvelési modellek között” – írta az OpenAI egy blogbejegyzésben.
„Hamarosan elkezdünk néhány érzékeny beszélgetést – például, amikor rendszerünk akut szorongás jeleit észleli – átirányítani egy érvelési modellre, például a GPT-5 gondolkodásmódra, így hasznosabb és előnyösebb válaszokat tud adni, függetlenül attól, hogy a személy melyik modellt választotta ki először” – tette hozzá a vállalat.
Az OpenAI jelezte: október folyamán szigorúbb szülői felügyeleti funkciókat is bevezetnek, amelyek lehetővé teszik számukra, hogy összekapcsolják a fiókjukat gyermekükével, szabályozzák, hogyan reagál a ChatGPT a „kornak megfelelő modell-viselkedéssel”, és letiltsanak bizonyos funkciókat, például a memóriát és a csevegési előzményeket.
A szülők értesítéseket is kapnak, amikor a chatbot azt észleli, hogy a gyermek „akut szorongást” él át, a felhasználók pedig rendszeres emlékeztetőket kapnak arról, hogy tartsanak szünetet a chatbot használata során.
Az OpenAI a jövőre nézve közölte, hogy a következő négy hónapban folytatja rendszere felülvizsgálatát. Azt a vállalat Jólléti Tanácsa, valamint a MI és a Globális Orvosi Hálózat vezeti majd.
„Közreműködésük segíteni fog nekünk a jóllét meghatározásában és mérésében, a prioritások meghatározásában, valamint a jövőbeli védelmi intézkedések – például a szülői felügyelet jövőbeli változatai – megtervezésében, a legújabb kutatások figyelembevételével” – mondta az OpenAI.
Hozzátették: míg a tanács javaslatokat ad a termékeikkel, kutatásaikkal és szakpolitikai döntéseikkel kapcsolatban, az OpenAI természetesen továbbra is felelős a döntéseiért.
B.A.
