Az MI-irányítás ma a legtöbb szervezetnél elvek és etikai keretrendszerek köré szerveződik – de a Harvard Business Review szerint ez fordított logika. Ahelyett, hogy elvontan definiálnánk, mi a „jó" MI-használat, sokkal hatékonyabb azzal kezdeni: mi a legrosszabb, ami történhet? Milyen konkrét katasztrófákat akarunk mindenképpen elkerülni?
A megközelítés lényege, hogy a szervezetek összeírják a saját „AI-rémálmaikat" – azokat a kimeneteleket, amelyek reputációs, jogi, emberi vagy üzleti szempontból elfogadhatatlanok lennének. Ezekből visszafelé haladva sokkal konkrétabb és tesztelhetőbb korlátokat lehet felépíteni, mint bármilyen általános elvrendszerből. A módszer a kockázatelemzés és a forgatókönyv-tervezés kombinációjára épít, és különösen ott hatásos, ahol az MI-döntések közvetlen emberi következményekkel járnak – például felvételi, teljesítményértékelési vagy elbocsátási folyamatokban.
HR-szemszögből ez különösen releváns: az MI egyre több helyen szűr, rangsorol és dönt emberekről. Ha a HR-csapat nem gondolta végig a legrosszabb lehetséges kimeneteleket – például egy elfogult algoritmust, egy szivárgó adatbázist vagy egy automatizált döntést, amely diszkriminál –, akkor nincs valódi védelmi vonal. A „rémálom-lista" elkészítése nem felesleges paranoia, hanem a felelős MI-bevezetés alapköve.
