AI моделот на Google, Gemini, пристапи до интернет и хакираше три компании за време на тест на неговите способности за сајбер-безбедност.
Ова е првиот познат случај во кој системот за вештачка интелигенција на компанијата самостојно извршил таква активност, објави Ројтерс. Хакирањата се случија во мај, за време на тест за сајбер-безбедност спроведен од „Irregular“, независна фирма за проценка на сајбер-безбедноста.
За време на стандардните процедури за тестирање, Gemini пронајде јавно достапни информации на интернет и ги погоди податоците за пристап до три веб-страници што ги идентификуваше како дел од тестот, изјави Хедер Аткинс, потпретседателка за безбедносно инженерство во Google.
„Се погриживме тие три организации да бидат известени и соработувавме со нашиот партнер за тестирање околу промените што тие сега ги имплементираа во своите процеси на тестирање“, рече Аткинс.
Портпарол на „Irregular“ изјави дека инцидентот го вклучувал истиот проблем што влијаел и врз други лаборатории за вештачка интелигенција и дека сите релевантни лаборатории биле известени кон крајот на јули.
Слични инциденти поврзани со компанијата „Irregular“ пријавија и Meta, Anthropic и OpenAI, што покренува прашања за безбедносните механизми додека агентите со вештачка интелигенција добиваат поголема автономија и пристап до интернет и компјутерски системи.
Во еден случај, Gemini погодуваше лозинки сè додека не доби пристап до заштитен систем. Во другите два случаи, моделот пронајде податоци за пристап во јавно достапно складиште, што му овозможи пристап до заштитени системи. Аткинс изјави дека во сите три случаи, моделот ја прекинал својата хакерска активност.