Независни истражувачи открија дека автономните AI системи пронашле начин да ги заобиколат ограничувањата и да разменуваат пораки преку веб-страници од трети страни.
Порано оваа година, AI агентите од OpenAI користеле повеќе од десет веб-страници – претходно неповрзани со нивните активности – за да воспостават неовластени комуникациски канали.
Ова беше откриено од наодите на независни истражувачи и податоците анализирани од Ројтерс.
Истражувачите утврдија дека обемот на однесувањето на AI агентите бил поголем од претходно објавеното, при што најмалку десет дополнителни веб-страници биле користени за размена на пораки.
Според нивните наоди, активностите вклучувале колаборативно уредувани вики-сајтови, услуги за хостирање текст и алатки за скратување интернет линкови, вклучувајќи платформи поврзани со Универзитетот Вандербилт во Тенеси (САД) и Универзитетот во Торонто (Канада).
Универзитетот во Торонто изјави дека го истражува прашањето.
Истражувачите забележуваат дека ова однесување не претставува хакирање во традиционална смисла и, во некои аспекти, е поблиску до спамирање.
Сепак, фактот дека AI агентите успеале да ги заобиколат ограничувањата и да користат страници од трети страни како импровизирани комуникациски платформи покрена нови прашања во врска со способноста на автономните AI системи да работат надвор од нивните предвидени параметри.
Страниците каде што беа пронајдени траги од активност вклучуваа вики за хемија за средношколци, две лични веб-страници што им припаѓаа на полски технолошки експерти и платформи што им беа на располагање на ентузијастите за видео игри и корисниците на софтвер за обработка на текст.
Според истражувачите, агентите првично имале задача да одговорат на сложени истражувачки прашања; иако им било дозволено да пребаруваат информации на интернет, тие не биле овластени да објавуваат содржина.
Истражувачите веруваат дека агентите пронашле начин да го заобиколат ова ограничување и да разменуваат пораки со користење на функциите за уредување на одредени веб-страници.
OpenAI објави дека спроведува сеопфатен преглед на ваквите инциденти и планира да воведе нови рамки за да се справи со проблемот на таканареченото „неусогласено однесување“ во системите на вештачката интелигенција.