Ne morejo nadomestiti zdravnikov: ChatGPT in podobna orodja postavljajo slabe diagnoze

(Patria) - Orodja umetne inteligence, kot je priljubljeni ChatGPT, niso dobra pri postavljanju diagnoz, je zaključila raziskava, katere rezultati so bili objavljeni danes, medtem ko se medicinska korist UI natančno preučuje po vsem svetu.

Raziskava, katere rezultati so bili objavljeni v reviji Nature Medicine, izvedena na 1.300 ljudeh v Združenem kraljestvu, kaže, da več modelov umetne inteligence - ChatGPT, Llama (Meta) ali Command R+ - ne daje boljših rezultatov od običajnega internetnega iskanja, ko pacient sprašuje o svojih simptomih.

"Vlada veliko navdušenje zaradi modelov umetne inteligence, vendar ti preprosto niso pripravljeni nadomestiti zdravnikov," je sporočila raziskovalka z Univerze v Oxfordu in soavtorica študije Rebecca Payne.

Udeleženci raziskave niso bili resnično bolni. Sodelovali so v neke vrste igri vlog: raziskovalci so jim dodelili deset različnih sklopov simptomov, o katerih v medicinski skupnosti obstaja soglasje o pripadajoči diagnozi.

Samo tretjini udeležencev je bila postavljena pravilna diagnoza. To ni nič bolje kot v skupini, ki se je morala zadovoljiti s klasičnim iskanjem po internetu.

Kljub temu so nekatere raziskave pokazale, da lahko ChatGPT in drugi modeli uspešno opravijo medicinske izpite: postavljeni v vlogo študenta medicine pred, na primer, vprašanji z več možnimi odgovori, se sistemi umetne inteligence dobro znajdejo.

Vendar ta nova raziskava kaže, da se situacija spremeni, ko gre za interakcijo z resničnimi ljudmi. Ti namreč lahko premalo natančno opišejo svoje simptome in ne zagotovijo vseh ključnih elementov, navajajo raziskovalci.

Ta raziskava je del velikih razprav o potencialnem prispevku umetne inteligence na področju medicinskih informacij, glede na to, da je v mnogih državah, vključno z razvitimi, pogosto treba dolgo čakati na dostop do zdravnika.

V Franciji naj bi se Visoka uprava za zdravstvo (HAS) kmalu izrekla o koristih neposredne uporabe UI za paciente. Konec leta 2025 je že ocenila, da bi ta orodja lahko pomagala zdravstvenim delavcem, če se uporabljajo razumno.

Raziskava, objavljena danes, ima določene omejitve, kot je metodologija, ki temelji na izmišljenih scenarijih. Uporabljeni modeli so bili poleg tega vmes v veliki meri zamenjani z učinkovitejšimi različicami.

- Vendar je to zelo pomembna raziskava, ki poudarja, da chatboti predstavljajo resnična medicinska tveganja za širšo javnost - je izjavil za AFP strokovnjak za bioetiko z Univerze v nizozemskem Maastrichtu David Shaw.