Алатката е создадена за да спречи еден од најголемите проблеми на креаторите на содржини и уметниците со обука на вештачка интелигенција.
Обуката за вештачка интелигенција сè уште е во некоја сива зона, така што некои алгоритми се тренираат на содржина заштитена со авторски права. Бројни уметници и музичари бараат итна регулација за да се стави крај на ваквите практики, бидејќи не сакаат нивните дела да се користат за обука на вештачката интелигенција на платформи како DALL-E, Stable Diffusion и Midjourney. Веќе се поднесени неколку тужби против такви компании кои развиваат платформи за вештачка интелигенција за претворање на текстуални барања во слики за користење на податоци заштитени со авторски права, па ќе биде интересно да се види нивниот исход.
Професорот Бен Жао од Универзитетот во Чикаго најде потенцијално решение за овој проблем. Во соработка со своите колеги, тој креираше специјална алатка наречена Nightshade, која, како што коментираат медиумите, може да ги „отруе“ податоците за обуката на вештачка интелигенција.
Nightshade дури може да ги уништи идните модели на споменатите AI платформи за создавање слики врз основа на текстуално барање, објаснија тие на The Verge. Имено, оваа алатка ги менува дигиталните слики, односно пикселите во нив, така што оваа промена не е видлива за човечкото око, додека тие изгледаат поинаку за моделите со вештачка интелигенција – на пример некои обични слики можат да препознаат како кубистичка апстракција, па не можат да ја имитираат оригиналната слика.
Затоа моделот со вештачка интелигенција може да даде сосема поинаква слика на конкретно барање за текст во споредба со желбите на корисникот? Во еден случај, моделите за генерирање на вештачката интелигенција применети на оваа алатка прикажуваа слики од мачки, иако текстуалното барање беше поврзано со куче. Умерен број такви напади со користење на Nightshade, верува Жао, може да ги дестабилизира општите функции во генеративниот модел на конвертирање на текстуално барање во слика, така што платформите за вештачка интелигенција повеќе нема да можат да создаваат смислени слики врз основа на преференциите на корисниците.
Жао и тимот зад Nightshade велат дека креаторите на содржини треба да ја користат оваа „отровна пилула“ како последна линија на одбрана против оние што ја користат нивната содржина за да тренираат вештачка интелигенција без дозвола. Исто така, тој верува дека компаниите кои ги обучуваат нивните модели за содржина заштитена со авторски права ќе ги променат своите навики и повеќе нема да користат таква содржина за нивните модели со вештачка интелигенција.