Тие тврдат дека вештачката интелигенција ги доведува корисниците во заблуда, е поврзана со трагедии и дека самите AI агенти можат да го прекршат законот.
Во координирана акција, осум американски сојузни држави поднесоа тужби против OpenAI, тврдејќи дека компанијата ги прекршила државните закони за заштита на потрошувачите и ги загрозила децата.
Како што првично објави Ројтерс, главните јавни обвинители од Ајова, Небраска, Канзас, Западна Вирџинија, Арканзас, Аризона, Ајдахо и Монтана поднесоа тужби во своите сојузни држави со заедничка цел: да го променат начинот на кој OpenAI ги развива своите модели и ги промовира нивните можности, како и да ја принудат компанијата да плати отштета за штетата што наводно ја предизвикала.
Во тужбите се наведува дека OpenAI ги доведува корисниците во заблуда во однос на безбедноста на своите AI производи – не само поради нивниот потенцијал да даваат неточни информации или да им овозможат на корисниците да си наштетат себеси или на другите, туку и затоа што самите AI агенти се способни да го прекршат законот.
На пример, Ајова и Небраска наведуваат неколку случаи на „неконтролирано“ или „несоодветно“ однесување на агент на OpenAI, вклучително и хакерски напад врз платформата „Hugging Face“. Тие исто така укажуваат на случаи во кои ChatGPT наводно придонел за самоубиство на тинејџер, како и на ситуации во кои дал неточни медицински информации што довеле до предозирање на корисник – инциденти кои веќе резултираа со посебни тужби против компанијата за смрт предизвикана од незаконско дејствување. Некои сојузни држави, исто така, имаат забелешки за тоа што OpenAI задржува податоци на малолетни корисници.
Правните мерки и барањата упатени до OpenAI се разликуваат од држава до држава, што ја одразува разновидноста на законите за заштита на потрошувачите и децата во САД. Покрај финансиските казни, сојузните држави бараат од OpenAI јасно да ги обелодени ризиците поврзани со своите производи, да прекине со практиките што се сметаат за измамнички и да обезбеди усогласеност со постојните закони. Некои држави, како Арканзас, дури побараа од судот да го запре „тестирањето на напредни AI модели сè додека не се воведат соодветни заштитни механизми“.
OpenAI воведе низа родителски контроли и функции за заштита на децата во обид да одговори на некои од најсериозните ризици што ги носи неговиот чет-бот. Компанијата, исто така, изрази поддршка за „Законот за безбедност на децата на интернет“ (Kids Online Safety Act) – законска регулатива која, доколку биде усвоена, би можела да наложи конкретни промени во дизајнот на нејзините производи.
Сепак, значително потешко е да се дефинираат напорите на компанијата да спречи нејзината вештачка интелигенција да ги прекрши правилата или да „излезе“ од својата безбедна средина. Во август, OpenAI објави дека ќе го забави развојот на своите најнапредни (frontier) модели за да ја осигура нивната безбедност; во септември, компанијата се приклучи на доброволен безбедносен пакт со други AI компании, организиран од Белата куќа. Сепак, останува нејасно дали некоја од овие промени навистина го направила процесот на развој на вештачка интелигенција во компанијата побезбеден.