Ontario tartomány főellenőre riasztó jelentést tett közzé az orvosok által használt mesterséges intelligencia rendszerekről. A vizsgálat 20 különböző platformot értékelt, és azt találta, hogy több rendszer is rendszeresen „hallucináló" válaszokat ad – vagyis olyan információkat gyárt, amelyek egyszerűen nem igazak, vagy félrevezetők lehetnek klinikai döntési helyzetekben.
A jelentés szerint ezek a pontatlanságok és kitalált adatok komoly kockázatot jelentenek: „nem megfelelő vagy káros kezelési tervekhez" vezethetnek. Az értékelt platformok közé tartoztak diagnosztikai segédeszközök és klinikai döntéstámogató rendszerek egyaránt. A főellenőr hangsúlyozta, hogy a technológia gyors terjedése megelőzte a megfelelő minőségellenőrzési keretek kialakítását.
HR-szemszögből ez az eset messze túlmutat az egészségügyi szektoron. Minden olyan szervezet, amely AI-eszközöket vezet be kritikus döntési folyamatokba – legyen szó teljesítményértékelésről, toborzásról vagy munkavállalói adatok kezeléséről – felelős azért, hogy ezeket az eszközöket rendszeresen auditálja és a munkatársak kritikusan használják. A technológiai augmentáció csak akkor működik biztonságosan, ha az emberi felügyelet valós és nem formális.
