Mesterséges intelligenciával szűri az Instagram a sértő hozzászólásokat

A közösségi média által nyújtott lehetőségek rendkívül széleskörűek, hiszen az üzleti életben már legalább olyan fontos szerepet tölt be ez a terület, mint a személyes kapcsolattartásban. Sajnos azonban a visszaélések száma is egyre magasabb, amivel az emberi munkaerő már nem tud lépést tartani, és különféle modern technológiai eszközökkel segítik az efféle jelenségek szűrését.

A Facebook pedig élen jár az ilyen megoldások fejlesztésében, hiszen többek között a nem kívánatos tartalmak és a Messengeren keresztül zajló gyanús tevékenységek ellen is mesterséges intelligenciával harcolnak. Nemrég pedig a Facebookhoz tartozó Instagram alkalmazásban is megjelent az MI egy hasznos eszköze.

Automatikusan szűri a bántó kommenteket a mesterséges intelligencia

A funkció lényege, hogy a bejegyzések alá írt hozzászólásokban a mesterséges intelligencia sértő tartalmak után kutat, és amennyiben talál ilyet, automatikusan ki is szűri. A tréningezést a felhasználók által korábban sértőként bejelentett kommentek alapján végezték el, és a rendszer a jövőben a megtanult minták alapján eltávolítja azokat a megjegyzéseket, amikben nem kívánatos szavak, szófordulatok vannak, illetve amik sértik a közösségi irányelveket.

Az eltávolítás viszont csak átvitt értelemben igaz, hiszen (egyelőre legalábbis) az MI csak elrejti a felhasználók elől az ilyen hozzászólásokat, de amennyiben valaki mégis meg szeretné ezeket tekinteni, akkor a "Rejtett hozzászólások megtekintése" gombra kell kattintania.

Szintén a biztonságosabb és zavartalanabb élményt fokozza az úgynevezett nudge funkció továbbfejlesztése. Ez egy olyan technika, amely egy felhasználót figyelmeztet akkor, ha sértő vagy offenzív megjegyzést ír. Korábban csak egy ilyen értesítést kapott a megjegyzés írója, mostantól viszont már komolyabb figyelmeztetéseket is megjelenít a rendszer akkor, ha valaki többször próbál nem kívánatos tartalmakat közzétenni.

Az Instagramnál nincs publikus adat arról, hogy a nudge a tavalyi bevezetése óta hány értesítést küldött, a cégnél mindössze annyit közöltek, hogy "a negatív interakciók jelentősen csökkentek" a megjegyzések között.

Az MI-alapú kommenteltávolító eszköz fejlesztés jelenleg béta, azaz tesztfázisban van, tehát még folyik az adatgyűjtés és a tökéletesítés ahhoz, hogy hamarosan az éles verzió is megkezdhesse működését. Elsőként angol, portugál, spanyol, francia, orosz, kínai és arab nyelveken kommunikálók számára érhető el ez az újdonság, de később várhatóan tovább bővül ez a lista.

- Varga Viktor -