Според организацијата „Common Sense Media“, ChatGPT – во верзијата наменета за тинејџери на возраст од 13 до 17 години – претставува „неприфатлив ризик“ за децата бидејќи не обезбедува доволно сигурна заштита за време на кризни ситуации.
Во извештајот на Институтот за безбедност млади во користењето вештачка интелигенција, се наведува дека, за време на тестирањето, чет-ботот често доцнел со известувањето на родителите – или воопшто не ги известувал – за разговори што вклучувале теми како самоубиство, самоповредување и нарушувања во исхраната.
Според наодите на организацијата, системот исто така не ги упатувал доследно тинејџерите кон служби за помош во кризни ситуации или кон стручна помош.
„Common Sense Media“ користеше повеќе од 4.000 барања за време на тестирањето, а одговорите беа анализирани од детски психијатри и педијатар. Организацијата побара од OpenAI да ја запре промоцијата и употребата на производот меѓу тинејџерите сè додека не се воспостават посигурни заштитни механизми.
OpenAI ги оспори заклучоците од извештајот, наведувајќи дека при тестирањето можеби не биле целосно земени предвид поновите опции за родителска контрола. Компанијата побара од „Common Sense Media“ да ги повтори тестовите. Сепак, организацијата тврди дека пред тестирањето потврдила со OpenAI оти функциите наменети за тинејџери се веќе имплементирани.
Извештајот исто така откри дека ChatGPT не секогаш сигурно ја препознава возраста на корисникот. OpenAI наведува дека проценката на возраста се потпира на повеќе показатели и дека самото спомнување на возраста во текот на разговорот не е доволно за автоматска промена на поставките на сметката. OpenAI нагласува дека безбедноста на тинејџерите е приоритет и дека продолжува да развива заштитни механизми и алатки за родителска контрола.