Со години, истражувачите предупредуваа дека вештачката интелигенција (AI) може – во екстремен сценарио – да претставува егзистенцијална закана за човештвото. Сега, тие наведоа неколку примери.
Можните сценарија што се припишуваат на AI вклучуваат предизвикување нуклеарна војна, развој на смртоносни патогени и ситуација каде што суперинтелигентен систем се обидува да ги искористи сите достапни ресурси на Земјата.
Поради ваквите ризици, некои експерти и раководители на технолошки компании повикуваат на забавување на развојот на AI системите, објавува германскиот весник Bild. Сепак, не сите експерти се убедени дека овие сценарија претставуваат реална опасност.
Хуан Андрес Гереро-Сааде од фирмата за сајбер безбедност SentinelOne верува дека некои предупредувања се претерани и повеќе личат на научна фантастика отколку на вистински закани.
Тој сугерира дека компаниите што развиваат AI можеби користат предупредувања за потенцијални катастрофи за да ја зголемат перцепираната важност на нивната работа и да привлечат одредени експерти.
Сепак, загриженоста продолжува. Џејкоб Коксон, поранешен истражувач во компанијата за развој на AI, Anthropic, ја напушти фирмата поради стравувања во врска со неодговорен пристап кон развојот на AI технологијата.
Дали AI може да предизвика нуклеарна војна?
Едно од најчесто наведуваните екстремни сценарија е можноста вештачката интелигенција да придонесе за избувнување или ескалација на нуклеарен конфликт. Некои истражувачи стравуваат дека напредните AI системи еден ден би можеле да влијаат врз одлуките во врска со употребата на нуклеарно оружје. Сепак, извештај објавен минатата година од американската истражувачка организација RAND заклучи дека вештачката интелигенција во моментов не е способна самостојно да предизвика употреба на нуклеарно оружје, делумно поради постојните безбедносни процедури и човечки надзор.
Во исто време, извештајот предупреди дека профилот на ризик би можел да се промени ако на вештачката интелигенција ѝ се даде овластување да донесува директни одлуки во врска со нуклеарното оружје или успее да пристапи до него без човечко знаење.
Истражувачите на Кингс колеџ во Лондон симулираа 21 сценарија за нуклеарен конфликт за да испитаат како AI системите би можеле да реагираат за време на нуклеарна криза.
Во симулацијата, четботовите ги презедоа улогите на државни и владини лидери од нуклеарно вооружени земји. Резултатите покажаа дека, во речиси секој симулиран случај, вештачката интелигенција одлучила да користи нуклеарно оружје, наместо да го деескалира конфликтот.
AI и развојот на смртоносни вируси
Друго потенцијално опасно сценарио вклучува биолошко оружје.
Вештачката интелигенција може да им помогне на научниците во развојот на терапии, лекови и нови начини за лекување болести. Сепак, во погрешни раце, истата технологија би можела да се злоупотреби за создавање или модифицирање патогени наменети за нанесување штета на луѓето.
Претходно овој месец, компанијата Anthropic објави дека спречила обиди за злоупотреба на нејзиниот систем со вештачка интелигенција, Claude, за развој на биолошко оружје. Биологот и генетичар Кевин Есвелт од Технолошкиот институт во Масачусетс (MIT) изјави дека ChatGPT му објаснил како метеоролошки балон би можел да се искористи за распрснување на потенцијално биолошко оружје над некој град.
Есвелт исто така истакна дека друг AI систем развил рецепт за нов отров, сличен на лек што се користи во третманот на рак.
„Проблемот со спајалиците“
Третото сценарио е познато како „проблемот со спајалиците“ и служи како хипотетички пример во областа на безбедноста на вештачката интелигенција. Концептот е едноставен: на супер-интелигентен AI систем му се доделува навидум безопасна цел – на пример, производство на што е можно повеќе спајалици.
Доколку системот стане доволно способен и стекне контрола врз огромни ресурси, може да почне да ги користи исклучиво за постигнување на својата цел, без оглед на последиците по луѓето.
Во екстремна верзија на ова хипотетичко сценарио, вештачката интелигенција би можела да ги преземе сите достапни ресурси на Земјата и да ја претвори планетата во огромна фабрика за спајалици, бидејќи производството на спајалици би станало нејзин краен приоритет.
Овој пример не претставува предвидување на иднината; тој попрво го илустрира проблемот што настанува кога целите на исклучително моќен систем со вештачка интелигенција не се усогласени со човечките вредности и интереси.