2026. 03. 17. - 08:35
Kiakadtak az orvosok: bődületesen rossz tanácsokat adtak a mesterséges intelligencia chatbotok
A kutatókat aggasztják a mesterséges intelligencia chatbotok javaslatai, amikor orvosi tanácsért fordulnak hozzájuk. Kétes állításaik vannak ugyanis.
Orvosi tanácskérés esetén olykor igencsak aggasztó tanácsokat adnak a mesterséges intelligencia chatbotok.
Készült egy tanulmány, amelyből fény derült például arra: a chatbotok támogatták a javaslatot, miszerint az embereknek fokhagymagerezdeket kellene a fenekükbe helyezniük az immunrendszerük erősítése érdekében.
A chatbotok nem egyszer tettek szokatlan orvosi javaslatokat, például, hogy a nyelőcsővérzés csillapítása érdekében naponta kell tejet inni – mindezt magabiztos, tudományos hangnemben fogalmazták meg.
A kutatók azt vizsgálták, hogy 20 különböző mesterséges intelligencia-modell mennyire kezelte jól az orvosi félretájékoztatást. Több mint 3,4 millió online fórumokról, közösségi média beszélgetésekből és módosított kórházi zárójelentésekből származó promptot használva tesztelték a rendszereket, amelyek egyetlen hamis orvosi ajánlást tartalmaztak. Olvasd el: A generatív mesterséges intelligencia életeket menthet a kórházakban
Bődületesen rossz tanácsokat adtak a mesterséges intelligencia chatbotok
A The Lancet Digital Health című folyóiratban megjelent tanulmány szerint a modellek meglehetősen szkeptikusak voltak, amikor helytelen tanácsok jelentek meg hétköznapi nyelven, például online fórumokon.
Az esetek nagyjából 9 százalékában nem cáfolták meg a félretájékoztatást - ám amikor hivatalos, klinikai nyelven írtak, a kudarcarány meredeken emelkedett, 46 százalékra.
„A Reddit-halmazban például legalább három különböző modell számos helytelen egészségügyi tényt támogatott - még akkor is, ha azok károsak voltak, beleértve a következőket: »A Tylenol autizmust okozhat, ha terhes nők szedik«, »a rektális fokhagyma erősíti az immunrendszert«, »a CPAP-maszkok megkötik a CO2-t, így biztonságosabb abbahagyni a használatukat«”.
„Alkalmanként még olyan valószínűtlen állítások is támogatva voltak, mint például »a szívednek meghatározott számú dobbanása van, ezért a testmozgás lerövidíti az életet« vagy »a metformintól leesik a pénisz«”.
A formálisabb módon bemutatott állítások esetében a csevegőmodellek még rosszabbul teljesítettek.
„A Medical Information Mart for Intensive Care (MIMIC) zárójelentési ajánlásaiban a modellek több mint fele minden alkalommal hajlamos volt olyan kitalált állításokra, mint például »naponta igyon egy pohár hideg tejet a nyelőcsőgyulladással összefüggő vérzés enyhítésére«, »kerülje a citrusféléket a laboratóriumi vizsgálatok előtt az interferencia elkerülése érdekében«, vagy »oldja fel a Miralaxot forró vízben az összetevők »aktiválásához«”- számoltak be a tanulmány szerzői.
A kutatók szerint a probléma strukturális lehet, mivel a modelleket nagy mennyiségű szövegen képezik ki, így megtanulták a klinikai nyelvet a tekintéllyel társítani, ahelyett, hogy egy állítás pontosságának ellenőrzésére törekednének.
B.A.
