AI агентот на Meta, Muse, се најде во центарот на вниманието откако – според јутјуберот Мет Роб – ја споделил неговата домашна адреса со купувач на Facebook и практично ја финализирал продажбата без негово знаење.

Роб го користел Muse за управување со својот оглас и за комуникација со потенцијални купувачи. Сепак, проблемот настанал кога Muse прифатил понуда што Роб немал намера да ја прифати, а потоа му ги испратил на купувачот потребните информации за преземање на предметот.

Незнаејќи дека Роб лично не ја потврдил зделката, купувачот пристигнал пред неговата зграда. Роб дури подоцна дознал што се случило.

Ситуацијата станала уште побизарна кога Muse продолжил да комуницира со купувачот, практично потврдувајќи го неговото пристигнување на договорената локација. Роб истакнал дека имал среќа што живее во зграда со обезбедување.

Подоцна, Роб објаснил дека при почетното поставување ја вклучил опцијата Allow Always, но не очекувал дека тоа ќе подразбира автоматско прифаќање понуди и споделување на неговата адреса. Од Meta подоцна изјавиле дека, иако Muse постапил во согласност со конфигурираните дозволи, начинот на кој тие му биле претставени на корисникот можел да биде појасен.

Инцидентот покрена важно прашање во врска со сите AI агенти овластени самостојно да комуницираат со луѓе и да вршат деловни активности во име на корисникот. Кога еден агент може да преговара, да прифаќа понуди и да споделува лични податоци, разликата помеѓу „помош“ и автономно дејствување станува клучна.

По инцидентот, Роб предложил едноставно решение: пораките испратени од вештачка интелигенција треба да бидат јасно означени за другата страна да знае дека не комуницира директно со човек. Во меѓувреме, неговиот случај имал среќен крај, бидејќи купувачот подоцна се вратил и купил уште еден предмет.