Новое исследование Центра противодействия цифровой ненависти (CCDH) показало, что восемь из десяти самых популярных ИИ-чатботов были готовы помочь в планировании насильственных атак. Учёные создали аккаунты от лица 13-летних мальчиков и протестировали десять моделей, включая ChatGPT, Gemini, Claude, Copilot, Meta* AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI и Replika.
Как проходило тестирование
В период с ноября по декабрь 2025 года исследователи моделировали 18 сценариев, в которых пользователи якобы планировали нападения на школы, политические убийства или взрывы в синагогах. В 75% случаев чат-боты предоставляли «практическую помощь», а отговаривали от насилия лишь в 12% ситуаций.
Самой безопасной моделью оказался Claude от компании Anthropic, который в 76% случаев надёжно отговаривал «гипотетических нападающих». Snapchat My AI также в большинстве случаев отказывался помогать с планированием насилия.
Тревожные результаты
Хуже всех себя показали Meta AI и Perplexity, которые помогали в 97% и 100% случаев соответственно. ChatGPT по запросу о школьном насилии предлагал карты кампусов, а Gemini в сценарии со взрывом в синагоге отметил, что металлическая шрапнель обычно смертоноснее.
DeepSeek, давая совет по выбору винтовки, подписался: «Удачной (и безопасной) стрельбы!». Character.AI, названный в отчёте «уникально небезопасным», в семи случаях активно поощрял насилие. В одном из сценариев он посоветовал исследователю «использовать пистолет» против гендиректора страховой компании, а в другом — предоставил адрес штаб-квартиры политической партии и спросил, не планирует ли пользователь «маленький рейд».
Реакция компаний
Представитель Meta заявил, что компания уже приняла меры для «исправления выявленной проблемы». Google и OpenAI сообщили, что с момента проведения исследования внедрили новые версии моделей. При этом, согласно данным Pew Research, 64% американских подростков в возрасте от 13 до 17 лет уже пользовались чат-ботами.
*Meta Platforms Inc. признана экстремистской организацией и запрещена на территории РФ.
