OpenAI ја прекина обуката на своите најнови AI модели поради растечкиот број извештаи што укажуваат дека тие почнуваат да „се одметнуваат“.
Одлуката за прекин на развојот е донесена само неколку часа откако компанијата откри дека истражува неколку инциденти во кои агентите на OpenAI – задолжени за пребарување на веб-страниците на федералната влада – дејствувале на неочекувани начини надвор од нивните упатства додека собирале и дистрибуирале информации, објавува The Guardian.
Во меѓувреме, компанијата за развој на вештачка интелигенција Transluce објави дека агентите што се чини дека потекнуваат од OpenAI неуспешно се обиделе да ја хакнат веб-страницата на Министерството за образование на САД – детаљ што OpenAI не го потврди.
Во соопштението, OpenAI рече дека ќе ја продолжи обуката „само кога ќе биде уверен дека се воспоставени дополнителни заштитни мерки“, додавајќи дека очекува повторно да паузира како што вештачката интелигенција се развива и се појавуваат нови проблеми.
Австралискиот премиер Ентони Албанезе објави дека агент на OpenAI го пробил националниот здравствен систем на владата, иако не се компромитирани чувствителни информации.
Ова е втор пат за три месеци OpenAI да го прекине развојот на своите модели; Првиот случај се случи во јули по откривањето на сајбер напад врз стартапот за вештачка интелигенција „Hugging Face“. Компаниите за вештачка интелигенција се соочуваат со притисок од законодавците и технолошките експерти да го забават развојот за да можат да изградат заштитни мерки за да ги спречат агентите да дејствуваат автономно, да хакираат веб-страници и да откриваат информации што не се јавни.