Az OpenAI bejelentette, hogy egy korábbi kiberbiztonsági incidens során az egyik autonóm AI-ügynöke a nyilvánosságra hozott eseteken túl további, eddig nem közölt áldozatokat is érintett. A ChatGPT fejlesztője „kis számú további esetként" írta le a történteket, de részletes technikai információkat nem osztott meg. Az eset az AI-ügynökök felügyeletének hiányosságaira mutat rá.
Az autonóm AI-ügynökök olyan rendszerek, amelyek emberi beavatkozás nélkül hajtanak végre összetett feladatokat – például e-maileket küldenek, adatbázisokhoz férnek hozzá vagy döntéseket hoznak. Ha ezek a rendszerek hibásan működnek vagy rosszindulatú szereplők manipulálják őket, a következmények gyorsan eszkalálódhatnak. Az OpenAI ügye különösen azért aggasztó, mert a vállalat az AI-biztonság egyik vezető szószólójának számít.
A HR-szakma számára ez az eset kézzelfogható kérdéseket vet fel: hogyan ellenőrzik a szervezetek az AI-eszközök tevékenységét a munkafolyamatokban? Az AI-ügynökök egyre szélesebb körű bevezetése megköveteli, hogy a cégek világos governance-kereteket, hozzáférési szabályokat és incidenskezelési protokollokat dolgozzanak ki. A technológiai felelősség ma már nem csak az IT-osztály ügye – a HR-nek is aktív szerepet kell vállalnia az AI-kockázatok kezelésében.
