Компанијата Moonshot одлучи да ги намали сајбер можностите на својот AI модел Kimi K3.1 Pro.
Кинеската технолошка компанија Moonshot AI објави дека ги ограничила офанзивните сајбер можности на својот најнов модел на вештачка интелигенција (ВИ), Kimi K3.1 Pro, поради растечките загрижености дека автономните AI системи би можеле да ги олеснат и забрзаат хакерските напади.
Moonshot, со седиште во Пекинг, ги објави овие ограничувања за време на претставувањето на моделот „Kimi K3.1 Pro“ – опишан од компанијата како нејзин најспособен модел со отворени тежини во класата од 3 билиони параметри – објави Ројтерс.
Компанијата изјави дека ги отстранила податоците поврзани со сајбер доменот од множествата податоци за обука и средините за зајакнување на учењето што се користат за развој на моделот Kimi K3.1, додека ги задржала општите вештини за програмирање.
„Нашата цел е да избегнеме објавување модели со отворени тежини што би ја поместиле апсолутната граница на офанзивните сајбер можности“, изјави компанијата.
Владите, технолошките фирми и експертите за безбедност се сè повеќе загрижени дека вештачката интелигенција би можела да ги направи софистицираните хакерски напади полесни и поевтини за извршување, според Ројтерс.
Моделите способни за пишување код, ракување со софтверски алатки и извршување сложени задачи во повеќе чекори можат да им помогнат на корисниците во идентификувањето на ранливостите на софтверот и автоматизирањето на компонентите на сајбер нападите.
Претходно, Кина предложи мерки за контрола на извозот што би го забраниле извозот на технологија што се користи за креирање и мутирање на злонамерен софтвер преку вештачка интелигенција, а воедно би ги ограничиле алатките со вештачка интелигенција дизајнирани да детектираат ранливости.
Нацрт-мерките, кои моментално се во фаза на јавна консултација, го истакнуваат ризикот дека ваквите можности би можеле да се искористат против критична инфраструктура, одбранбено-индустриски и клучни државни системи или да се користат за заобиколување на безбедносните заштити.