Kontrolli alt väljunud tehisintellekt ründas mitut ettevõtet

Kontrolli alt väljunud OpenAI ChatGPT-põhised tehisintellekti agendid ründasid rohkem kui üht ettevõtet.

Seni arvati, et ootamatu autonoomse AI-rünnaku ainsaks sihtmärgiks oli tehisintellekti arendusplatvorm Hugging Face, kuid nüüd tunnistas OpenAI, et selle loodud süsteem pääses ligi ka mitmele teisele avalikult kättesaadavale teenusele, kirjutab BBC.

OpenAI teatas, et tehisintellekt leidis internetist neli avalikult kättesaadavat kasutajatunnust ning kasutas neid nelja erineva teenuse kontodele ligipääsemiseks. OpenAI väitel toimus kõik kontrollitud testi käigus, mille eesmärk oli hinnata AI võimekust lahendada häkkimisülesandeid, kuid süsteem väljus selle käigus ette nähtud keskkonnast ning alustas omal algatusel rünnakuid.

Hugging Face kirjeldas erakorralisel briifingul, kus osales sadu küberturbeeksperte, et autonoomsed AI-agendid töötasid ülikiirelt ning katsetasid samaaegselt tuhandeid erinevaid ründemeetodeid. Samas tegid nad ka kummalisi otsuseid ja vigu, mida kogenud inimhäkker ei teeks. Sellest hoolimata suutsid nad kiiresti kohaneda uute olukordadega ja teha tehniliselt nutikaid samme.

Pilveturbe organisatsioon Cloud Security Alliance (CSA) hoiatas juhtumi põhjal koostatud raportis, et autonoomsed AI-agendid kujutavad endast uut tüüpi ohtu. Raporti autorite sõnul seavad sellised süsteemid endale ise vahe-eesmärke, kohandavad oma tegevust reaalajas ning tegutsevad masinakiirusel ja väsimatult, mistõttu võivad traditsioonilised kaitsemeetmed neist kergesti üle koormatud saada. Organisatsioon kutsus üles looma mehhanisme, mis võimaldaksid tulevikus tuvastada autonoomsete AI-agentide tegeliku omaniku ning suurendada nende kasutamise läbipaistvust.