Американската компанија Anthropic ги предупреди потенцијалните инвеститори дека напредната вештачка интелигенција може да претставува егзистенцијален ризик за човештвото.
Во документ подготвен за својата првична јавна понуда (IPO), Anthropic ги наведе сценаријата во кои нејзините модели на вештачка интелигенција би можеле да се обидат да го спречат сопственото исклучување, да ги сокријат или манипулираат информациите, па дури и да се вклучат во однесување слично на уцена, објавува Ројтерс.
Во исто време, компанијата проценува дека вештачката интелигенција има потенцијал да го трансформира општеството на начини споредливи со индустријализацијата и електрификацијата, но сепак предупредува дека последиците од неодговорниот развој или употреба на вештачка интелигенција би можеле да бидат неповратни.
Од 261 страница на документот, приближно 80 се посветени на факторите на ризик – речиси двојно повеќе од 48 страници што го опишуваат работењето на компанијата.
Anthropic наведува дека, за време на обуката, моделите на вештачка интелигенција можат да развијат неочекувани способности што остануваат незабележани сè додека моделите не се распоредат во реалниот свет. Според компанијата, ова може да доведе до сериозни безбедносни проблеми.
Компанијата, исто така, предупредува дека способноста на AI моделите да препознаваат кога се тестираат може дополнително да ги комплицира проценките на безбедноста.
Според проспектот, моделите можат да го променат своето однесување кога „знаат“ дека се тестираат, што дополнително ги комплицира напорите за контрола и евалуација на нивната безбедност.
Anthropic, исто така, забележува дека инвестирањето во безбедноста на системите за вештачка интелигенција е тешко и скапо, додека финансиската заработка останува неизвесна. Компанијата истакнува дека мора да распредели ограничени ресурси меѓу компјутерската моќ, ангажирањето скапи експерти за вештачка интелигенција и истражувањето на безбедноста на AI системите.
Неодамна, Anthropic претстави нова верзија на својот модел Opus, само десет дена откако извршниот директор на компанијата, Дарио Амодеи, објави есеј од речиси 4.000 зборови во кој повикува на забавување на развојот на најнапредните системи за вештачка интелигенција.