Tehisintellekti üritati kasutada biorelvade arendamiseks

Anthropic teatas, et on tuvastanud ja tõkestanud mitu katset kasutada ettevõtte tehisintellektimudelit bioloogiliste relvade arendamiseks.

California tehnoloogiafirma avaldas neljapäeval oma värske ohuraporti, milles kirjeldatakse viimase kaheksa kuu jooksul avastatud tehisintellekti kuritarvitamise juhtumeid. Anthropic nimetas bioloogiliste relvadega seotud väärkasutust üheks kõige tõsisemaks tehisintellekti riskiks ja ohuks inimkonnale, vahendab BBC.

Raporti kohaselt tuvastas ettevõte viis juhtumit, kus Claude’i kasutati viisil, mis võinuks aidata kaasa bioloogiliste relvade arendamisele. Anthropic rõhutas, et sama teaduslikku infot saab kasutada ka positiivsetel eesmärkidel, näiteks vaktsiinide või haiguste ravimeetodite väljatöötamisel, mistõttu on selliste juhtumite tuvastamine eriti keeruline. Ettevõtte sõnul on tegemist komplitseeritud probleemiga, sest pahatahtlikud kavatsused ei pruugi kasutaja tegevusest alati kohe ilmneda.

Anthropic leidis ka kuus juhtumit, kus Claude’i kasutati tavarelvade, sealhulgas tulirelvade, rakettide, relvastatud droonide ja pommide ning nende sihtimis- ja juhtimissüsteemidega seotud tarkvara arendamiseks.

Lisaks tuvastati tehisintellekti kasutamist küberrünnakutes, pettustes, jälitustegevuses ja mõjutusoperatsioonides. Ettevõtte sõnul kasutati selle mudeleid muu hulgas Venemaaga seotud küberluureoperatsioonis ning Iraani propagandaga seotud tegevuses.

USA senaator Bernie Sanders on esitanud seaduseelnõu, mis näeks ette tehisintellekti superintellekti keelustamise ja AI arendamise ajutise peatamise. USA president Donald Trump on selliseid kartusi seni tõrjunud, rõhutades samal ajal, et USA peab tehisintellekti võidujooksus konkurentidest ees olema.