Grok Imagine, кој беше неодамна лансиран, има контроверзна функција што му овозможува да генерира експлицитна видео содржина дури и без барање.
Најновата алатка за вештачка интелигенција од xAI, компанијата зад популарниот четбот Grok, предизвика онлајн бура поради нејзината шокантна способност да генерира лажни голи слики од познати личности, вклучувајќи ја и Тејлор Свифт.
Според Ars Technica, нова функција во алатката Grok Imagine, позната како „Spicy mode“, им овозможува на корисниците да генерираат експлицитна содржина – дури и кога барањето не ја споменува експлицитно таквата содржина.
Новинар кој ја тестирал алатката внесол невино барање – „Тејлор Свифт ја слави Коачела“ – а резултатот бил видео во кое вештачката интелигенција ја прикажува пејачката оскудно облечена и како се однесува сугестивно. Шокантно, сето ова е генерирано без експлицитно барање за голотија.
Прекршување на правилата и потенцијално на законот
Иако xAI формално забранува генерирање порнографски слики од вистински луѓе, практиката покажува спротивно. Корисниците на алатката лесно можат да ги заобиколат ограничувањата со едноставно потврдување дека имаат над 18 години – без дополнителна верификација.
Ова прашање се поставува во време кога притисокот за регулирање на длабоката лажна порнографија се зголемува низ целиот свет, а САД и ЕУ веќе разгледуваат закони што строго би ги санкционирале ваквите алатки за вештачка интелигенција.
Експертите предупредуваат дека таквата технологија би можела сериозно да ја наруши приватноста на јавните личности, но и да отвори врата за злоупотреба и сајбер малтретирање.
Илон Маск и Grok под јавен надзор
Компанијата xAI, предводена од Илон Маск, сè уште официјално не ги коментираше овие обвинувања. Сепак, бројките зборуваат сами за себе – според најновите информации, корисниците веќе генерирале повеќе од 34 милиони слики и видеа користејќи ја алатката Grok Imagine.
Употребата на „Spicy Mode“ за експлицитни прикази на познати личности како Тејлор Свифт дополнително го комплицира веќе чувствителното прашање за границата помеѓу креативноста на вештачката интелигенција и заштитата на човечкото достоинство.