Megkülönböztetik a gyalogosokat az önjáró autók?
A jelek szerint még bőven van mit korrigálni az önjáró autókon ahhoz, hogy tökéletesek legyenek: egy új tanulmány arra világít rá, hogy a kocsikban használt technológia nem mindenkit vesz észre egyformán.
Nagyon úgy tűnik, különbséget tesznek a gyalogosok között az önjáró autók – egy új tanulmány szerint a bennük alkalmazott technológiának vannak „rasszista elhajlásai”, ugyanis nagyobb eséllyel mennek neki feketebőrű embereknek, mint fehéreknek.
A Georgia-i Technológiai Intézet kutatói felfedezték, hogy a legkorszerűbb érzékelőrendszerek – kamerák és szenzorok -, melyeket használnak az önjáró autókban, jobban azonosítja a fehérbőrű embereket, mint a feketéket.
Ez azonban azt jelenti, hogy utóbbiakat kevésbé veszi észre és el is ütheti.
A tanulmány során nyolc képfelismerő rendszer esetében bizonyosodott be, hogy a torzítás sajnos igaz, 5 százalékkal kevésbé volt pontos a rendszer a sötétbőrű emberek esetében.
A sötétbőrű embereket többször kevésbé vette észre az önjáró autó
Az elmélet igazolása érdekében a kutatók nagy mennyiségű gyalogos-fotót választottak két csoportra, fehér- és feketebőrűekre az ún. Fitzpatrick skála segítségével, mely tudományos módszer a bőrszín osztályozására.
A napszak megváltoztatása és a képfelismerő rendszer akadályozása esetén is ugyanaz maradt az átlagos pontosság.
„Bízunk benne, hogy a tanulmány meggyőző bizonyítékot szolgáltat arról: vannak még komoly problémák, melyeket figyelembe kell venni és javítani szükséges, mielőtt valóban az utcákra kerülnek ezek a modellek” – hangsúlyozták a kutatók.
Kate Crawford mesterséges intelligencia kutató - aki nem volt részese a tanulmánynak – elmondta, a rendszerek igen veszélyesek lehetnek, ha a gyártók nem foglalkoznak ezzel a problémával.
„Már vannak példák a halálos balesetekre, melyeket önjáró autók okoztak – csakhogy a halálesetek nem egyenlően oszlanak el" - hívta fel a figyelmet a kutató a Twitteren.
Más mesterséges intelligencia-kutatók reagáltak írására, kiemelve, hogy a doktumentum nem használta az autonóm járműfejlesztők által alkalmazott adatkészleteket, vagyis nem reflektálhat teljesen pontosan a való életben előforduló problémákra. Az azonban bizonyos, hogy az ehhez hasonló tanulmányok komoly betekintést adnak az igazi kockázatokba.
Nem ez az első eset egyébként, hogy a gépi tanulás és látó rendszer esetében beépített torzítás fordult elő – a Massachusetts-i Technológiai Intézet (Massachusetts Institute of Technology - MIT) felfedezte, hogy az Amazon arcfelismerő szoftvere nehezebben azonosította az emberek nemét, amennyiben nők voltak vagy sötétbőrűek.
A rendszeren tehát még igen fontos korrekciókat kell végrehajtani.
László Adrienn
