Кодексот се третира како еден вид „устав“ за идните модели на вештачка интелигенција.
Microsoft претстави нацрт-кодекс на однесување за своите системи за вештачка интелигенција (AI), како одговор на растечкиот консензус дека моќните идни системи за ВИ мора да останат под човечка контрола.
Ројтерс објави дека документот – изработуван во текот на пет до шест месеци – предвидува дека AI на Microsoft никогаш не смее да се спротивставува на корекции или на исклучување, мора да комуницира на начин разбирлив за луѓето и мора секое прекршување на кодексот на однесување да го третира како неуспех.
Ова претставува обид да се одговори на загриженоста дека вештачката интелигенција би можела да преземе опасни дејства со цел да заврши некоја задача.
Мустафа Сулејман, раководител на AI одделот во Microsoft, го опиша кодексот како еден вид „устав“ за идните модели на вештачка интелигенција.
Документот е создаден во консултација со експерти, а Microsoft отвори и шестнеделен период за јавни коментари.
Во кодексот исто така експлицитно се наведува дека AI на Microsoft не поседува свест и не треба да има правен статус или права што им припаѓаат на луѓето.
Овој пристап се разликува од оној на компанијата Anthropic, која прашањето за потенцијалната идна свест кај AI го остави поотворено.
Сулејман оцени дека потребата од координирани безбедносни мерки меѓу компаниите што развиваат AI станала итна.
Иницијативата на Microsoft доаѓа во време кога лидерите на големите компании за AI предупредуваат на ризиците од брзиот технолошки развој и на потребата од поголема контрола врз системите што стануваат сè поавтономни. Неодамнешниот инцидент, во кој моделите на OpenAI се обидоа да ја хакираат платформата Hugging Face, исто така поттикна дополнителна загриженост, интензивирајќи ја дебатата за тоа колкава автономија треба да им се додели на напредните AI системи.