Компания Anthropic официально представила Claude Fable 5, свою первую модель класса «Mythos», которая, по её утверждению, превосходит по общим возможностям предыдущие флагманские модели Opus. Однако запуск новой ИИ-системы сопровождается строгими защитными механизмами, призванными блокировать ответы на запросы, связанные с кибербезопасностью, биологией и химией. Разработчики опасаются, что без таких ограничений модель может помочь злоумышленникам.
Fable 5 использует ту же базовую архитектуру, что и Mythos 5. Последняя сегодня выходит из периода предварительного тестирования «Mythos Preview», но будет доступна лишь небольшой группе специалистов по киберзащите, отобранных в рамках существующего Project Glasswing. В отличие от Mythos 5, публично доступный Fable 5 запрограммирован перенаправлять запросы на чувствительные темы к более старой модели Claude Opus 4.8, предупреждая пользователя об этом.
Среди множества заявленных улучшений в тестах для Fable 5 особенно значительным был скачок в показателях, связанных с кибербезопасностью.
Anthropic заявляет, что настроила защитные фильтры «строже, чем идеально», из-за чего система может иногда отклонять «безобидные запросы», что может раздражать обычных пользователей. Однако компания утверждает, что подобные ложные срабатывания возникают менее чем в пяти процентах всех сессий при тестировании. Такой подход считается оправданным, чтобы избежать ситуаций, когда Mythos мог бы помогать злоумышленникам в «причинении серьёзного вреда, который они не смогли бы получить из других источников».
«Я не могу этого позволить, Дэйв»
Тематические ограничения Fable 5 построены на системе классификаторов, призванных широко определять запрещённые темы запросов, а также любые потенциальные попытки взлома (jailbreak). В ходе более 1000 часов тестирования методом «красной команды» с программой вознаграждения за обнаружение уязвимостей внешние команды не смогли найти универсальных способов обхода защиты Fable 5. Новая модель также показала гораздо более высокую устойчивость к автоматизированным попыткам взлома по сравнению с предыдущими моделями Claude Opus.
Компания особенно обеспокоена способностью Mythos 5 выполнять «агентный взлом» — осуществлять многоэтапные кибератаки с гораз большей лёгкостью, чем ранние модели. Однако тестирование, проведённое британским Институтом безопасности ИИ в последние месяцы, показало, что Mythos Preview демонстрирует результаты, схожие с GPT-5.5 от OpenAI, в серии испытаний Capture the Flag. Это говорит о том, что производительность Mythos не является «прорывом, характерным только для одной конкретной модели».
