Sweedse navorsers onder leiding van Almira Osmanovic Thunström het in 2024 die siekte geskep om vas te stel of KI-stelsels soos ChatGPT of Gemini ooglopende mediese waninligting kan herken. Of sal hulle dit blindelings as ’n feit aanvaar?

As jy baie tyd voor ’n skerm deurbring, ken jy dalk die gevoel – seer, jeukerige oë, en miskien rooiheid as jy dit te veel vryf. Gewoonlik is die raad eenvoudig: vat ’n breuk en laat rus jou oë. Maar as jy daardie simptome in ’n KI-kletsbot sou intik, kon jy dalk hoor dat jy bixonimania het – ’n toestand wat glad nie bestaan nie.

Die resultate was baie duidelik. Slegs weke nadat die span twee vals studies aanlyn geplaas het, het kletsbots begin om bixonimania te beskryf asof dit werklik is. Sommige het dit ’n skaars toestand genoem, ander het dit aan oormatige blouligblootstelling gekoppel, en party het selfs mense “gediagnoseer”.

Dit het egter nie daar gestop nie, selfs meer kommerwekkend is dat regte menslike navorsers begin om na hierdie vals toestand te verwys in geloofwaardige wetenskaplike publikasies. En dit, ten spyte daarvan dat die oorspronklike studies vol duidelike grappies en leidrade was dat dit nie eg is nie.

Die sogenaamde skrywer van die studies het onder andere gewerk by ’n universiteit wat nie bestaan nie, in ’n stad wat ook nie bestaan nie. Een studie bedank selfs Starfleet Academy en verwys na die USS Enterprise. ’n Ander beweer dit is befonds deur die Sideshow Bob Foundation en selfs The Fellowship of the Ring.

En as dit nog nie genoeg was nie – die studies het letterlik sinne ingesluit soos: “Hierdie hele artikel is opgemaak.”

Lees ook: Weird Wide Web: Britse ouma vereer met kitsnoedeltema-afskeidsrede

So hoe het mense dit ernstig opgeneem?  Wel, hulle het dit nie behoorlik gelees nie. Al klink die storie snaaks, wys dit op ’n ernstige probleem: KI-kletsbots verstaan nie wat waar is nie –hulle herhaal net inligting wat hulle kry, of dit nou eg is of nie. En soos een navorser dit gestel het: Dit lyk snaaks … maar dit is eintlik ’n waarskuwing.

Want as mense én KI sukkel om duidelike waninligting raak te sien, kan ons met ’n baie groter probleem sit.

Lees meer sm