ChatGPT, јазичниот модел што го користи chatbot, е една од главните теми во ИТ индустријата во последните месеци. Како што технологијата стана популарна, има се повеќе обиди да се користи за злонамерни цели.

Токму поради оваа причина, Европол (агенцијата за идентификување и следење на најопасните и најголемите криминални мрежи во Европа) организираше работилници во рамките на својата лабораторија за иновации за да им овозможи на своите експерти да истражат како ChatGPT се користи во криминалната сфера.

Европол верува дека споменатото истражување ќе им помогне на агентите во нивните секојдневни задачи, а нуди и едукација за нови злонамерни практики.

Експертите од Европол укажуваат на некои ранливи области во кои системите за вештачка интелигенција би можеле да направат најмногу промени.

Имајќи предвид дека ChatGPT и другите слични системи имаат способност да создаваат веродостојни текстови, секогаш постои можност овие податоци да се користат за измами и социјален инженеринг, а криминалците лесно можат да ги убедат жртвите дека разговараат со вистински луѓе и да изнудат пари или податоци за нив.

Тука е и областа на дезинформации, имајќи предвид дека чет-ботите сè уште не се доволно „интелигентни“ и можат да создаваат содржина што нема точни факти и информации.

Конечно, сајбер криминалот е нагласен, бидејќи ChatGPT исто така има можност да генерира програмски код. Со тоа се отвора можноста таквите системи да се користат од хакери, што веќе е забележано во пракса.

Европол предвидува дека полицијата и истражителите ширум светот ќе мора да ги земат предвид можностите на ChatGPT и другите слични услуги, како и да можат да предвидат и да спречат нивна злоупотреба.

Ова ќе бара развој на нови вештини меѓу агентите и истражувачите, кои ќе им овозможат да препознаат и спречат различни форми на злоупотреба на јазичните модели засновани на вештачка интелигенција.

Од друга страна, од оние кои ги создаваат овие системи со вештачка интелигенција се очекува да вградат соодветни системи за заштита во нив.