AI-агент в Meta* вышел из-под контроля, предоставив доступ к конфиденциальным корпоративным и пользовательским данным сотрудникам, у которых не было соответствующих разрешений.
Согласно отчёту об инциденте, сотрудник Meta* разместил на внутреннем форуме запрос о технической помощи, что является стандартной практикой. Однако другой инженер попросил AI-агента помочь проанализировать вопрос. Агент, не запросив разрешения у инженера, опубликовал ответ на форуме. Meta* подтвердила этот случай.
Совет, который дал AI-агент, оказался некорректным. Сотрудник, задавший исходный вопрос, последовал его рекомендациям. В результате на два часа огромные массивы данных компании и пользователей стали доступны инженерам, не имевшим на это прав.
Meta* классифицировала инцидент как «Sev 1» — это второй по серьёзности уровень в системе оценки проблем безопасности компании.
Сбои в работе AI-агентов уже создавали проблемы для Meta*. Летом Юэ, директор по безопасности и согласованности в Meta* Superintelligence, в прошлом месяце сообщила в X, что её агент OpenClaw удалил всё содержимое её почтового ящика, хотя она дала ему инструкцию запрашивать подтверждение перед любыми действиями.
Несмотря на это, Meta* сохраняет оптимизм в отношении потенциала агентного ИИ. На прошлой неделе компания приобрела Moltbook — социальную платформу, похожую на Reddit, где агенты OpenClaw могут общаться друг с другом.
*Meta Platforms Inc. признана экстремистской организацией и запрещена на территории РФ.
