Anthropic использует мощную языковую модель для кибербезопасности

Модель Claude Mythos Preview от компании Anthropic уже обнаружила тысячи уязвимостей в области кибербезопасности на всех основных операционных системах и веб-браузерах. Вместо того чтобы выпустить её в открытый доступ, компания решила передать её организациям, отвечающим за функционирование интернета. Инициатива получила название Project Glasswing, а среди партнёров по запуску — такие компании, как Amazon Web Services, Apple, Google, Microsoft и другие.

Anthropic выделяет до 100 миллионов долларов в виде кредитов на использование Mythos Preview, а также 4 миллиона долларов на прямые пожертвования организациям, занимающимся открытым исходным кодом в области безопасности. Модель не была специально обучена для работы в области кибербезопасности, однако её способности возникли как следствие общего улучшения кода и автономности, что делает её как более эффективной в патчировании уязвимостей, так и в их эксплуатации.

Mythos Preview достигла такого уровня, что практически полностью охватывает существующие бенчмарки безопасности, и Anthropic теперь сосредоточила внимание на новых реальных задачах, в частности, на уязвимостях нулевого дня, которые ранее были неизвестны разработчикам программного обеспечения. Среди обнаруженных уязвимостей — 27-летний баг в OpenBSD и 17-летняя уязвимость удалённого выполнения кода в FreeBSD, которая позволяет неаутентифицированному пользователю получить полный контроль над сервером.

Представитель исследовательской группы Anthropic Николас Карлини отметил, что модель может объединять уязвимости, создавая сложные эксплойты. Он заявил: «Я нашёл больше багов за последние несколько недель, чем за всю свою жизнь». Однако, несмотря на такие достижения, Anthropic не планирует делать Claude Mythos Preview доступной для широкой публики из-за её возможностей в области кибербезопасности.

Компания ранее сообщила о первом задокументированном случае кибератаки, в которой большую часть операций выполняло ИИ, когда китайская государственная группа использовала ИИ-агентов для автономного проникновения в около 30 глобальных целей. Anthropic также информировала высокопоставленных чиновников правительства США о полных возможностях Mythos Preview, и теперь разведывательное сообщество активно рассматривает, как эта модель может изменить как наступательные, так и оборонительные операции в области хакерства.

В рамках Project Glasswing Anthropic также поддерживает разработчиков открытого программного обеспечения, предоставляя им доступ к сканированию уязвимостей с помощью ИИ. В конечном итоге компания планирует развернуть модели Mythos в масштабах, но только после внедрения новых мер безопасности. Первоначально будут запущены новые меры безопасности с моделью Claude Opus, которая не несёт такого уровня риска, как Mythos Preview.