Злоупотребата на технологиите за вештачка интелигенција од страна на руски, кинески и ирански хакерски групи е спречена.
OpenAI соопшти дека суспендирала повеќе сметки што ги користеле хакерски групи од Русија, Кина и Иран за да користат вештачка интелигенција за развој на малициозен софтвер, автоматизирање на активностите на социјалните медиуми и спроведување технички истражувања, вклучително и анализа на американската сателитска комуникациска технологија.
Според OpenAI, руските актери користеле ChatGPT модели за развој и рафинирање на малициозен софтвер насочен кон оперативните системи Windows, дебагирање на код и поставување инфраструктура за команда и контрола. Злонамерната кампања, наречена „ScopeCreep“, вклучувала дистрибуција на малициозен софтвер преку лажна алатка за видео игри наречена Crosshair X, која всушност содржела „loader“ за преземање дополнителни малициозни компоненти.
Малициозниот софтвер е дизајниран да ги ескалира привилегиите, да воспостави таен пристап до системот, да ги заобиколи заштитите како што е Windows Defender и да извлече чувствителни кориснички податоци – вклучувајќи лозинки, колачиња и токени – кои потоа ги пренесува на напаѓачите, вклучително и преку Telegram канал.
Дополнително, OpenAI идентификуваше две кинески хакерски групи – APT5 и APT15 – кои го користеа ChatGPT за технички цели како што се развој на софтвер, администрација на Linux систем, подесување на инфраструктурата, креирање апликации и истражување на методи за автоматизирање на прекршувања и манипулирање со социјалните медиуми.
OpenAI презеде чекори за деактивирање на сите поврзани сметки, нагласувајќи дека спречувањето на злоупотреба на технологијата со вештачка интелигенција е еден од клучните приоритети на компанијата.