2026. 06. 05. - 09:11
Világszintű lassítást kér az Anthropic a legerősebb mesterséges intelligencia rendszereknél
Az Anthropic szerint a világ legfejlettebb mesterséges intelligencia rendszereinek fejlesztése olyan tempóra kapcsolt, amely mellett a társadalmi szabályoknak, biztonsági kutatásoknak és nemzetközi megállapodásoknak is gyorsabban kellene fejlődniük.
A mesterséges intelligencia fejlődése újabb komoly vitát nyitott a technológiai világban, miután az Anthropic globális lassítást vagy átmeneti szünetet javasolt a legerősebb rendszerek fejlesztésében. Az RFI által közölt AFP-hír szerint a Claude modelleket fejlesztő vállalat úgy látja, hogy a legújabb rendszerek már olyan képességeket mutatnak, amelyek miatt a társadalmi intézményeknek, szabályozóknak és biztonsági kutatóknak több időre lehet szükségük. Ez nem a fejlődés elutasítása, hanem annak felismerése, hogy a legerősebb technológiákhoz erősebb kontroll is kell.
Az Anthropic szerint egy valóban működő lassítás csak akkor lehet hatékony, ha nem egyetlen vállalat dönt úgy, hogy óvatosabb lesz, miközben a versenytársai tovább gyorsítanak. A cég álláspontja alapján több országban működő, nagy mesterséges intelligencia fejlesztőknek kellene egyszerre, ellenőrizhető szabályok szerint megállapodniuk. Ez rendkívül nehéz feladat, mert a mesterséges intelligencia ma már nemcsak üzleti, hanem geopolitikai verseny is.
A Reuters összefoglalója szerint az Anthropic különösen az úgynevezett rekurzív önfejlesztés lehetőségét tartja fontos kockázatnak. Ez azt jelenti, hogy egy mesterséges intelligencia rendszer egyre nagyobb szerepet kaphat saját utódai fejlesztésében, vagyis a fejlődési ciklus egy ponton emberi beavatkozás nélkül is felgyorsulhat. A vállalat hangsúlyozza, hogy ez még nem történt meg és nem is elkerülhetetlen, de a felkészülést nem akkor kell elkezdeni, amikor már késő.
A legnagyobb áttörés akkor értékes, ha közben az emberi kontroll is megmarad?
A javaslat nem meglepő módon ellenállást is kiváltott. Egyes iparági szereplők szerint a túlzott óvatosság lassíthatja az innovációt, mások pedig attól tartanak, hogy egy globális fékezés csak akkor lenne fair, ha valóban minden nagy fejlesztő és minden jelentős ország betartaná. Ez a dilemma emlékeztet a fegyverzetkorlátozási megállapodások problémáira, de a mesterséges intelligencia esetében még bonyolultabb a helyzet, mert a fejlesztés sokkal nehezebben látható és ellenőrizhető, mint egy fizikai katonai infrastruktúra.
A pozitív üzenet mégis az, hogy a mesterséges intelligencia iparág legkomolyabb szereplői egyre nyíltabban beszélnek a biztonsági kérdésekről. Az Anthropic nem a technológia megállítását, hanem a felelős tempó kialakítását sürgeti. Ha a világ képes lenne közös szabályokat, ellenőrzési rendszereket és kockázatkezelési mechanizmusokat létrehozni, akkor a mesterséges intelligencia fejlődése nemcsak gyors, hanem sokkal megbízhatóbb is lehetne.
A következő évek egyik legfontosabb kérdése az lesz, hogy a mesterséges intelligencia fejlesztése kizárólag versenyfutás marad-e, vagy képes lesz belépni egy érettebb, nemzetközileg szabályozottabb korszakba. A valódi cél nem az, hogy a technológia ne fejlődjön, hanem az, hogy az emberiség lépést tudjon tartani vele. Az Anthropic felvetése ezért akkor is fontos, ha a globális megállapodás nehéznek tűnik. A legerősebb rendszerek korában a biztonság már nem mellékszál, hanem maga a stratégiai kérdés.
CS.SZ.
