Mesterséges intelligenciával harcol a nemkívánatos tartalmak ellen a Facebook

A Facebook első embere, Mark Zuckerberg szerint a szabad véleménynyilvánítás biztosítva van a közösségi oldalon, de meg kell húzniuk a határt egy olyan szintnél, ami már valódi károkat tud okozni. Ennek csak egy apró szelete az, hogy a Facebookon és az Instagramon a kifogásolható tartalmakat még azelőtt eltávolítják, mielőtt bárki láthatná.

A Facebook jelentős fejlesztéseket végez a mesterséges intelligencia terén annak érdekében, hogy a rendszer automatikusan képes legyen észrevenni az irányelveket megsértő tartalmakat. Az MI annak a több mint 35.000 embernek a munkáját teszi hatékonyabbá, akik a biztonságért felelnek. A Facebook erre a küldetésre egyébként évente dollármilliárdokat költ el.

A káros tartalmaknak üzen hadat a mesterséges intelligencia a Facebookon

Zuckerberg szerint az erőfeszítéseik nagyon is kifizetődők, mivel egyre fejlettebbé válnak azok a rendszerek, amelyeket erre a célra építettek. A gyűlöletbeszédet tartalmazó bejegyzések kb. 80%-át már automatikusan felismerik, ami hatalmas fejlődés ahhoz képest, hogy néhány éve még a felhasználóknak manuálisan kellett jelenteniük a kifogásolható tartalmakat.

Annál is inkább figyelemre méltó az új technológia, hogy a mesterséges intelligencia számára nehezebb értelmezni egy gyűlöletbeszédet, mint például a meztelenséget egy képen vagy videón. Ennek oka, hogy a különböző nyelvi árnyalatok olyan kontextust is teremthetnek, amikor a közönséges szavak is adott esetben fenyegetővé válhatnak.

A Facebook csak olyan videókat engedélyez a felületein, amelyek elítélik az erőszakot, nem pedig dicsőítik azt. Emiatt bármilyen faji, nemi vagy vallási atrocitást tartalmazó videót eltávolítják, és természetesen a különböző terrorista akciók is blokkolva vannak. A márciusi új-zélandi mecsettámadásról például még a mai napig próbálnak emberek tartalmakat megosztani, de a rendszer ezek 95%-át már képes azonnal tiltani.

A Facebookon bevezetett változtatások és fejlesztések az Instagramon is elérhetőek, így ez a két közösségi platform a jövőben egyre biztonságosabbá fog válni a mesterséges intelligenciának és a biztonsági szakértőknek köszönhetően.

- Varga Viktor -