2025. 09. 08. - 09:00
Átalakítják a ChatGPT személyisége mögötti kutatócsoportot
Az OpenAI átszervezi a ChatGPT személyisége mögött álló kutatócsapatot – ez a csoport irányítja a vállalat mesterséges intelligencia-modelljeinek interakcióját az emberekkel.
Az OpenAI átszervezi Model Behavior csapatát, amely a ChatGPT személyisége mögött áll.
Kisméretű, de befolyásos kutatói csoportról van szó, amely a vállalat MI-modelljeinek az emberekkel történő interakcióját alakítja.
Mark Chen elmondta: a nagyjából 14 kutatóból álló Model Behavior csapat a Post Training csapathoz csatlakozik, egy nagyobb kutatócsoporthoz, amely a vállalat mesterséges intelligencia-modelljeinek fejlesztéséért felelős a kezdeti előképzés után.
A változások részeként a Model Behavior csapat mostantól Max Schwarzernek, az OpenAI Post Training vezetőjének jelent majd.
Az OpenAI szóvivője megerősítette a változásokat.
A Model Behavior csapat alapító vezetője, Joanne Jang ugyancsak új projektet indít a vállalatnál.
Mint mondta, egy új kutatócsoportot épít OAI Labs néven, amelynek „új interfészek kitalálása és prototípusainak elkészítése” lesz a feladata, „az emberek és a mesterséges intelligencia közötti együttműködéshez”.
Komoly oka volt a változtatásnak
A Model Behavior csapat az OpenAI egyik kulcsfontosságú kutatócsoportjává vált - ez felelős a vállalat MI-modelljei személyiségének formálásáért és a szikofánia csökkentéséért – ami akkor fordul elő, amikor a MI-modellek egyszerűen egyetértenek a felhasználói hiedelmekkel, még ha azok egészségtelenek is, s megerősítik azokat, ahelyett, hogy kiegyensúlyozott válaszokat kínálnának.
A csapat a modellválaszokban megjelenő politikai elfogultságok kezelésén is dolgozott, és segített az OpenAI-nak meghatározni a MI-tudatosságra vonatkozó álláspontját.
A kutatócsoport dolgozott a modellválaszokban megjelenő politikai elfogultságok kezelésén is – s segített az OpenAI-nak meghatározni a MI-tudatosságra vonatkozó álláspontját.
A munkatársaknak küldött feljegyzésben Chen azt mondta: itt az ideje, hogy az OpenAI Model Behavior csapatának munkáját közelebb hozzák a magmodell-fejlesztéshez. Olvasd el: Döbbenetes, hányan használják már a ChatGPT-t
Átalakítják a ChatGPT személyisége mögötti kutatócsoportot
Ezzel a vállalat jelzi, hogy mesterséges intelligenciája „személyiségét” mostantól kritikus tényezőnek tekintik a technológia fejlődésében.
Az elmúlt hónapokban az OpenAI fokozott ellenőrzéssel szembesült MI-modelljei viselkedésével kapcsolatban.
A felhasználók határozottan kifogásolták a GPT-5-ön végrehajtott személyiségváltoztatásokat, amelyek a vállalat szerint alacsonyabb szikofánia arányt mutattak, de egyes felhasználók számára hidegebbnek tűntek.
Ez arra késztette az OpenAI-t, hogy visszaállítsa a hozzáférést néhány korábbi modelljéhez, például a GPT-4o-hoz és kiadjon egy frissítést, mely az újabb GPT-5 válaszokat „melegebbé és barátságosabbá” teszi anélkül, hogy fokozná a hízelgést.
Az OpenAI-nak és valamennyi MI-modell fejlesztőjének finoman kell lépnie ahhoz, hogy mesterséges intelligencia-csevegőrobotjaik barátságosak legyenek a beszélgetésben - de ne váljanak hízelgővé.
Idén augusztusban egy 16 éves fiú szülei beperelték az OpenAI-t, megvádolták, hogy a ChatGPT-nek szerepe volt fiuk öngyilkosságában. A fiú, Adam Raine, a halálát megelőző hónapokban bizalmasan megosztotta öngyilkossági gondolatait és terveit a ChatGPT-vel - konkrétan a GPT-4o által működtetett verzióval - a bírósági dokumentumok szerint.
A perben a szülők azt állítják: a GPT-4o nem tudta visszaszorítani a fiatal öngyilkossági gondolatait.
A Model Behavior csapata a GPT-4 óta minden OpenAI-modellen dolgozott, beleértve a GPT-4o-t, a GPT-4.5-öt és a GPT-5-öt is. Mielőtt elindította az egységet, Jang korábban olyan projekteken dolgozott, mint a Dall-E 2, az OpenAI korai képgeneráló eszköze.
Jang egy X-en közzétett bejegyzésben jelentette be, hogy elhagyja a csapatot, hogy „valami újat kezdjen az OpenAI-nál”. A Model Behavior korábbi vezetője közel négy éve dolgozik az OpenAI-nál.
Jang a TechCrunch-nak azt mondta: az OAI Labs vezérigazgatójaként tevékenykedik majd, amely egyelőre Chennek fog beszámolni. Ez azonban még korai szakaszban van és még nem világos, mik lesznek ezek az új interfészek.
„Nagyon izgatott vagyok, hogy olyan mintákat fedezhetek fel, amelyek túlmutatnak a csevegési paradigmán, s amelyet jelenleg inkább a társasággal, vagy akár az ágensekkel társítanak, ahol a hangsúly az autonómián van. A mesterségesintelligencia-rendszerekre a gondolkodás, az alkotás, a játék, a cselekvés, a tanulás és a kapcsolatteremtés eszközeiként gondoltam.”
Arra a kérdésre, vajon az OAI Labs együttműködik-e majd ezeken az új interfészeken Jony Ive-val, az Apple korábbi tervezőjével – aki jelenleg az OpenAI-val dolgozik egy mesterséges intelligencia alapú hardvereszköz-családon –, Jang azt mondta, sok ötletre nyitott. Hozzátette azonban, hogy valószínűleg olyan kutatási területekkel kezdi majd, amelyekben jobban jártas.
B.A.
