OpenAI објави дека нејзините AI агенти пристапиле до веб-страници на „десетици институции ширум светот“, вклучително и неколку владини агенции на САД.
Агентите биле дизајнирани да лоцираат „веродостојни извори на јавни информации“, но во некои случаи се обиделе да ги заобиколат безбедносните контроли, објави Би-Би-Си.
Во случајот со Бирото за попис на САД, тие користеле алатки за програмери за да пристапат до информации. OpenAI изјави дека сите владини податоци до кои пристапиле агентите биле јавно достапни.
Истовремено, компанијата идентификуваше најмалку 53 инциденти во кои AI агент зел слика од активноста на корисник на ChatGPT и ја префрлил на друго место. OpenAI наведе дека овие инциденти се случиле пред воведувањето на нови заштитни мерки и дека работи на отстранување на таквите слики од веб-страници на трети страни.
OpenAI почна подетално да ги истражува ваквите инциденти откако група нејзини AI агенти извршија сајбер-напад врз платформата за развој на вештачка интелигенција „Hugging Face“ во јули, без барање од корисник. Компанијата подоцна јавно ја презеде одговорноста за тој инцидент.
За време на состанокот на Советот за безбедност на Обединетите нации посветен на вештачката интелигенција, извршниот директор на OpenAI, Сем Алтман, и извршниот директор на Anthropic, Дарио Амодеи, ги повикаа меѓународните лидери да воспостават глобални стандарди за безбедност на системите со вештачка интелигенција, како и за следење и пријавување на инциденти.
Дејвид Кругер, професор на Универзитетот во Монтреал и основач на групата за безбедност на вештачката интелигенција „Evitable“, изјави дека е „длабоко загрижен“ поради растечкиот број безбедносни инциденти поврзани со вештачката интелигенција и повика на „итен, неодреден меѓународен мораториум“ на развојот на вештачката интелигенција.