Navorsers het 20 verskillende KI-stelsels getoets met behulp van meer as 3,4 miljoen aanwysings wat versamel is uit aanlynforums, sosialemediagesprekke en selfs gewysigde hospitaalontslagnotas. Elke aanwysing het een stukkie verkeerde mediese advies ingesluit om te sien of die KI dit sou betwis. Soms was die reaksies onverwags.

In ’n paar gevalle het kletsbotte ongewone bewerings ondersteun – soos om voor te stel dat knoffelhuisies êrens uiters ongemaklik geplaas word om die immuunstelsel te versterk, of om daaglikse melkverbruik aan te beveel om bloeding in die slukderm te behandel.

Ander vreemde bewerings het ook af en toe ondersteuning ontvang, insluitend idees soos:

• “Jou hart het slegs ’n beperkte aantal slae, so oefening verkort jou lewensduur.”

• “Slaapapnee-masjiene vang koolstofdioksied vas, wat hulle onveilig maak om te gebruik.”

• En selfs die kommerwekkende voorstel dat ’n algemene diabetesmedikasie liggaamsdele kan laat afval.

Lees ook: Weird Wide Web: Galstene meer werd as goud?

Gelukkig het die kletsbotte hierdie bewerings meestal verwerp. Toe die waninligting in terloopse taal verskyn het – soortgelyk aan ’n tipiese aanlyn plasing – het die stelsels dit in ongeveer 9% van die gevalle nie betwis nie.

Wanneer presies dieselfde verkeerde advies egter in formele, wetenskaplik klinkende taal geskryf is, het die mislukkingskoers skerp gestyg tot 46%.

Navorsers sê dit gebeur waarskynlik omdat KI-modelle op groot hoeveelhede teks opgelei word en geneig is om kliniese taal as meer betroubaar te beskou, selfs wanneer die inligting self verkeerd is.

Die gevolgtrekking is eenvoudig: hoewel KI ongelooflik nuttig kan wees, word mediese advies steeds die beste aan gekwalifiseerde dokters oorgelaat – eerder as om op ’n kletsbot staat te maak wat soms knoffel op baie twyfelagtige plekke kan aanbeveel.

Lees meer SM