Anthropic предупредува дека развојот на вештачката интелигенција се случува толку брзо што би можел да доведе до системи способни да развиваат свои наследници во догледна иднина и затоа предлага пауза.
Иако оваа фаза сè уште не е достигната, компанијата верува дека би можела да се достигне порано отколку што институциите се подготвени да ја контролираат. Во својот блог, компанијата наведува дека таквото ниво на вештачка интелигенција би можело да донесе огромни придобивки, особено во науката и медицината, каде што системите за самоподобрување би можеле да го забрзаат истражувањето и откритијата на начини што не се можни денес.
Сепак, истото сценарио носи и сериозни ризици. Anthropic предупредува дека губењето на контролата врз ваквите системи би станало реална можност, бидејќи вештачката интелигенција потенцијално би можела да продолжи да се подобрува без човечки надзор.
Како можно решение, компанијата предлага глобално забавување или привремена пауза во развојот на најнапредните системи за вештачка интелигенција. Целта би била регулативата, безбедносните истражувања и социјалните институции да го достигнат технолошкиот напредок, објавува Engadget.
Овој предлог доаѓа од компанија која денес е еден од клучните играчи во индустријата за вештачка интелигенција. Критичарите, вклучувајќи ги и аналитичарите на WSJ, тврдат дека ваквите предупредувања би можеле да имаат и маркетиншка позадина. Според ова толкување, Anthropic би можел да се позиционира како „поодговорен“ играч во споредба со конкурентите или да зголеми интерес за сопствените производи.
Особени сомневања се покренати и од ограничениот пристап до нејзиниот безбедносен модел на вештачка интелигенција Mythos, кој наводно е објавен само на одбрани партнери поради потенцијална злоупотреба, додека скептиците веруваат дека станува збор за деловна стратегија и контрола на пазарот.
Сепак, компанијата тврди дека предлогот за забавување се базира на работата на нејзината истражувачка гранка, Институтот Anthropic, кој е формиран за да ги проучува долгорочните ризици од напредната технологија на вештачка интелигенција. За да биде можно глобално прекинување на развојот, сите водечки лаборатории за вештачка интелигенција во светот би морале да учествуваат, со механизми за да се потврди дека никој не го продолжува развојот во тајност.
Anthropic дури наведува дека слични меѓународни договори постојат и во други области, како што се нуклеарните технологии, иако признава дека воспоставувањето таков систем во индустријата за вештачка интелигенција би било значително потешко и временски осетливо.