Компания Anthropic представила новую ИИ-модель для кибербезопасности, Claude Mythos Preview, и предоставила её ограниченной группе клиентов, включая Amazon, Apple и Microsoft. Это произошло через несколько дней после утечки в сеть подробностей о проекте.
Как сообщила компания во вторник, модель будет доступна только проверенным организациям, среди которых Broadcom, Cisco и CrowdStrike. Anthropic также ведёт переговоры с правительством США о её возможном использовании.
Анонс последовал за утечкой данных из стартапа из Сан-Франциско в прошлом месяце, когда описания модели Mythos и другие документы были обнаружены в общедоступном кэше данных. На прошлой неделе произошёл второй инцидент, в результате которого исходный код личного помощника Anthropic, Claude Code, стал публичным.
Оба случая вызвали опасения по поводу уязвимостей данных и практик безопасности компании. В каждом инциденте Anthropic заявила, что причиной стала «человеческая ошибка».
Mythos уже несколько недель используется партнёрами. Хотя это модель «общего назначения» с широкими возможностями, это первый случай, когда компания ограничила выпуск модели из-за её возможностей в области кибербезопасности.
Anthropic заявила, что ПО может выявлять киберуязвимости в масштабах, недоступных человеку, но также способно разрабатывать способы эксплуатации этих уязвимостей, которыми могут воспользоваться злоумышленники. Компания считает, что модель может «изменить» практики кибербезопасности, и не планирует широкого релиза.
«Мы считаем, что подобные технологии достаточно мощны, чтобы принести много пользы, но также могут нанести вред, если попадут не в те руки», — сказала Диана На Пенн, руководитель управления продуктами и исследований в Anthropic. Она добавила, что отобранные компании получат «фору в возможности защищать уязвимости и обнаруживать код в масштабах, которые ранее были для них недоступны».
