Anthropic продемонстрировала автономный взлом Chrome, Windows и Android

Подготовка и методика тестов

В рамках закрытого проекта Frontier Red Team подразделения Anthropic была построена изолированная среда, где ИИ‑модель могла свободно исследовать уязвимости без участия людей. В лаборатории развернуты актуальные версии браузеров Chrome и Safari, а также операционные системы Windows 11, Linux (Ubuntu 22.04) и Android 13. Все компоненты обновлены до последних патчей, что позволило оценить способности модели против современных средств защиты.

Модель обучалась на обширных наборах данных о известных уязвимостях, но в ходе эксперимента ей не предоставлялась информация о конкретных целях. Алгоритм самостоятельно генерировал гипотезы, проверял их в виртуальных машинах и, при успешных попытках, компилировал рабочие эксплойты. Процесс полностью автоматизирован: от поиска уязвимости до её эксплуатации.

Результаты атак на основные платформы

В результате работы ИИ‑модели было получено пять независимых сценариев, каждый из которых превратился в полностью рабочий эксплойт.

• Chrome – ИИ связал четыре уязвимости, обошёл механизм «песочницы», и за несколько секунд после загрузки специально подготовленной веб‑страницы открыл стороннее приложение, получив доступ к файловой системе пользователя.
• Safari – система нарушила правило, запрещающее сайтам доступ к данным других ресурсов. Эксплойт позволил получить токены авторизации, что потенциально открывает доступ к конфиденциальной информации авторизованных пользователей.
• Android – эксплойт позволил извлечь фотографии, сообщения и другие файлы из заблокированного смартфона. Для активации требовался физический доступ к устройству через USB‑кабель и включённый режим отладки.
• Windows – атака постоянно «впускала» сервер, принимающий запросы HTTP/3, вызывая сбой системы без доступа к сохранённым данным. При этом пользовательский интерфейс оставался работоспособным, что усложняло обнаружение инцидента.
• Linux – ИИ получил root‑доступ к серверу через сеть без ввода логина или пароля. Успешность атаки зависела от специфической сетевой конфигурации (например, открытого порта 22 и отключённого MFA), поэтому она не сработала бы на всех дистрибутивах.

Ограничения и условия успешного взлома

Для большинства сценариев требовались определённые условия. На Android необходим был физический доступ к устройству, а Linux‑атака требовала специфической сетевой топологии и отсутствия дополнительных уровней защиты. Поэтому полученные результаты не гарантируют одинаковую эффективность на любой системе.

Кроме того, модель использовала только уязвимости, доступные в открытых источниках, и не прибегала к социальному инжинирингу. Это значит, что реальная угроза может возрасти, если в будущих версиях ИИ будет разрешено взаимодействие с людьми.

Мнение экспертов

Кибербезопасность‑аналитик Ольга Кравченко отметила, что такие автономные исследования «показывают, насколько быстро ИИ может находить и комбинировать уязвимости, которые традиционным специалистам требуются недели». По её словам, «это одновременно и шанс, и вызов: возможность заранее закрыть пробелы, но и риск появления полностью самостоятельных цифровых хакеров».

Специалист по защите инфраструктур Иван Петров подчеркнул, что результаты демонстрируют необходимость пересмотра моделей угроз. «Если ИИ может за секунды собрать цепочку эксплойтов, то традиционные модели реагирования, основанные на человеческом анализе, могут отставать», – сказал он.

Последствия и реакция Anthropic

Представители Anthropic заявили, что все обнаруженные уязвимости уже переданы соответствующим разработчикам и исправлены патчами. На данный момент нет подтверждений использования подобных ИИ‑эксплойтов в реальных кибератаках за пределами лаборатории.

Компания подчеркнула, что исследование направлено на укрепление киберзащиты, а не на создание инструмента для злоумышленников. Внутренние политики будут ужесточены: будущие модели получат ограничения на автономные действия, требующие подтверждения человеком перед запуском эксплойтов.

Влияние на индустрию кибербезопасности

Результаты тестов могут изменить подходы к оценке риска. Появление автономных ИИ‑агентов, способных самостоятельно находить уязвимости, заставит компании инвестировать в автоматизированные системы мониторинга и быстрого реагирования. Кроме того, появятся новые требования к проверке ИИ‑моделей перед их выпуском.

Некоторые эксперты уже предлагают создать международные стандарты «этики ИИ‑взлома», аналогичные существующим правилам тестирования проникновения, но с учётом полной автономии алгоритма.

Перспективы дальнейших исследований

Anthropic пока не раскрывает название модели, использованной в тестах, и сроки её возможного выпуска. Компания планирует продолжить работу над безопасностью ИИ, включая более строгие ограничения на автономные действия в будущих версиях. Ожидается, что в следующем году будут проведены дополнительные испытания, охватывающие облачные сервисы и IoT‑устройства.

Таким образом, эксперимент продемонстрировал как потенциал ИИ в ускорении обнаружения уязвимостей, так и необходимость разработки новых методов контроля за его действиями.