2022. 10. 20. - 09:00
Orvosi képek alapján a mesterséges intelligencia a rasszunkat is megmondja
Egyelőre a kutatók számára sem teljesen világos, hogyan képes meghatározni a mesterséges intelligencia az ember faját orvosi felvételek alapján.
Számos egészségügyi területen alkalmazzák ma már a mesterséges intelligenciát (MI), az orvosi képek elemzésétől a sebészeti beavatkozások segítéséig.
Ám miközben a mesterséges intelligencia olykor képes felülmúlni a képzett klinikusokat, ezen emberfeletti képességeket nem mindig értik teljesen a szakemberek.
Egy új tanulmány keretében a kutatók most arról számoltak be, hogy az MI-modellek számos különböző típusú radiográfiás felvétel alapján pontosan megmondhatják a rasszt – melyet maguk a résztvevők adtak meg -, és erre még az ember szakértők sem képesek.
Az eredmények azt sugallják, hogy a faji információk tudtukon kívül beépülhetnek a képelemzési modellekbe, ami potenciálisan súlyosbíthatja a faji egyenlőtlenségeket az orvosi környezetben. Olvasd el: Pontosabb és olcsóbb orvosi diagnosztikát hozhat az új mesterséges intelligencia-algoritmus
Orvosi képek alapján a mesterséges intelligencia a fajunkat is megmondja
„Az MI óriási lehetőségeket rejt magában számos betegség és állapot diagnosztikájának, kezelésének és monitorozásának forradalmasításában. Drámai módon alakíthatja az egészségügyi ellátáshoz való hozzáállásunkat - mondta el Judy Gichoya orvos, a tanulmány első szerzője, a NIBIB Data and Technology Advancement (DATA) nemzeti szolgálatának munkatársa. - Ahhoz azonban, hogy a mesterséges intelligencia valóban minden beteg javát szolgálja, jobban meg kell értenünk, miként hozzák meg döntéseiket ezek az algoritmusok a nem szándékos torzítások elkerülése érdekében.”
A torzítás az MI-algoritmusokban nem újkeletű dolog. Kutatási tanulmányok kimutatták, hogy a mesterséges intelligencia teljesítményét befolyásolhatják a demográfiai jellemzők, beleértve a fajt is.
Számos lehetséges tényező vezethet torzításhoz, például olyan adatkészletek használata, amelyek nem reprezentatívak egy betegpopulációra - például olyan adatkészletek használata, ahol a legtöbb beteg fehér. Ezenkívül a zavaró tényezők – olyan tulajdonságok vagy fenotípusok, amelyek aránytalanul jelen vannak az alcsoportok populációiban, például a faji különbségek a mell- vagy csontsűrűségben – szintén torzításhoz vezethetnek.
A jelenlegi tanulmány rávilágít egy másik lehetséges tényezőre, amely nem kívánt torzításokat vezethet be a mesterséges intelligencia-algoritmusokba.
Gichoya és munkatársai a tanulmányhoz először azt szerették volna meghatározni, képesek-e olyan mesterséges intelligencia modelleket kifejleszteni, amelyek csak mellkasröntgenből ki tudják mutatni a rasszokat.
Három nagy adathalmazt használtak, amelyek sokféle betegpopulációt öleltek fel és felfedezték, hogy modelljeik nagy pontossággal megjósolhatják a fajt – ez feltűnő eredmény, mivel a humán szakértők nem tudnak ilyen előrejelzést adni röntgenfelvételek alapján. Olvasd el: A hosszú Covidot is diagnosztizálja a mesterséges intelligencia
A kutatók azt is megállapították, hogy a mesterséges intelligencia még akkor is képes meghatározni a fajt (a résztvevők saját bevallása alapján), ha a képek erősen leromlottak, az eredeti méret egykilencedére lettek levágva, vagy ha a felbontást olyan mértékben módosították, hogy a röntgenképek alig ismerhetők fel.
A kutatócsoport ezt követően más nem mellkasröntgen-adatkészleteket is felhasznált - beleértve a mammográfiát, a nyaki gerinc röntgenfelvételeit és a mellkasi számítógépes tomográfiás (CT) vizsgálatokat. Megállapította, hogy a mesterséges intelligencia továbbra is meg tudja határozni a rassz típusát, függetlenül a betegség típusától, a szkennelés típusától vagy anatómiai elhelyezkedéstől.
„Eredményeink azt sugallják, hogy az orvosi képeken rejtett jelek vannak, amelyek a mesterséges intelligencia számára lehetővé teszik a faj előrejelzését - mondta Gichoya. – Meg kell értenünk, vajon ezek az algoritmusok miért rendelkeznek ezzel a képességgel, hogy a mesterséges intelligencia továbbfejlesztett alkalmazásai – mint például az egészséggel kapcsolatos előrejelzések készítésére alkalmas képalapú algoritmusok készítése – ne legyenek potenciálisan károsak a kisebbségek és rosszul ellátott betegpopulációk számára.”
A kutatók igyekeztek megérteni, hogyan tudta a mesterséges intelligencia elérni ezeket a meghatározásokat. Számos különböző zavaró tényezőt vizsgáltak, amelyek potenciálisan befolyásolhatják a radiográfiai képek jellemzőit, például a testtömeg-indexet (BMI), a mell sűrűségét, a csontsűrűséget vagy a betegségek eloszlását.
Nem tudtak azonosítani egyetlen olyan konkrét tényezőt sem, amely megmagyarázhatná az MI azon képességét, hogy pontosan előrejelezi a fajt.
Vagyis, bár a mesterséges intelligencia megtanítható arra, hogy orvosi képek alapján megjósolja a fajt, még nem sikerült feltárni a modellek által ezekhez az előrejelzésekhez felhasznált információkat.
A tanulmányt a The Lancet Digital Health szakfolyóirat közölte.
L.A.
