Anthropic опубликовала первые результаты Project Glasswing — кибербезопасностной инициативы, запущенной в апреле для противодействия кибератакам с помощью искусственного интеллекта. Проект работает на базе невыпущенной публично модели Claude Mythos Preview, которая, по заявлению компании, помогла партнёрам обнаружить более десяти тысяч уязвимостей всего за месяц работы.
Большинство партнёров проекта смогли найти сотни уязвимостей критического или высокого уровня серьёзности в своём программном обеспечении благодаря модели. Скорость обнаружения багов у партнёров выросла более чем в десять раз.
Cloudflare обнаружила 2000 ошибок, 400 из которых имеют высокую или критическую степень серьёзности. Mozilla ранее отчиталась о 271 найденной и исправленной уязвимости в Firefox, что в 10 раз больше, чем было найдено в старой версии браузера с помощью другой модели Claude.
Недавнее заявление Microsoft о том, что выпуски патчей «будут оставаться крупными в течение некоторого времени», по всей видимости, связано именно с багами, обнаруженными через Mythos Preview.
Anthropic также использовала Mythos Preview для анализа 1000 проектов с открытым исходным кодом за последние несколько месяцев. Из 23 019 найденных проблем 6 202 были уязвимостями высокой и критической степени серьёзности.
В своём отчёте компания объяснила, что не выпускает Mythos Preview для публичного использования, поскольку ни одна компания (включая её саму) ещё не разработала достаточно надёжных защитных механизмов, чтобы предотвратить злоупотребление такими мощными моделями. Однако Anthropic намерена выпустить «модели класса Mythos» в будущем, когда такие меры защиты станут доступны.
Пока же компания планирует работать с партнёрами, включая правительство США и другие государства, чтобы расширить доступность Project Glasswing. Это может указывать на восстановление отношений компании с американскими властями.
Среди текущих партнёров проекта — Amazon Web Services, Apple, CrowdStrike, Google, JPMorganChase, NVIDIA и Palo Alto Networks, а также ранее упомянутые организации.
По сообщению The Wall Street Journal, Anthropic впервые с момента основания в 2021 году выходит на прибыльность. Ожидается, что по итогам квартала, завершающегося в июне, компания покажет выручку в 10,9 млрд долларов и операционную прибыль в 559 млн долларов. Однако в последующих кварталах прибыльность может не сохраниться, поскольку Anthropic планирует больше инвестировать в вычислительные ресурсы и другие расходы.
