Google представила CodeMender — ИИ, который самостоятельно исправляет уязвимости в коде

Google объявила о запуске CodeMender — ИИ-инструмента, который самостоятельно находит и исправляет уязвимости в коде.

Разработанный на основе технологий BigSleep и OSS-Fuzz, агент использует модель Gemini для анализа причин ошибок (root cause analysis) и автоматически создает патчи безопасности.

После этого исправления проходят проверку другими ИИ — «агентами-критиками», а затем отправляются на финальное утверждение человеку.

Google утверждает, что CodeMender позволит ускорить выпуск обновлений и снизить количество ручной работы при исправлении уязвимостей.

Вознаграждения за уязвимости

Одновременно компания запустила новую программу поощрения за найденные уязвимости (VRP) — теперь и для своих ИИ-продуктов. За серьезные баги исследователи смогут получить до $20 000.

Secure AI Framework 2.0

Google также обновила свою инициативу по защите ИИ — Secure AI Framework (SAIF) до версии 2.0. В нее вошли три новых элемента:

• Карта рисков для отслеживания угроз от автономных агентов;
• Пакет обновлений безопасности для всех ИИ-сервисов Google;
• Передача данных о рисках в международную коалицию Secure AI Risk Map для открытого доступа.

Цель — сделать ИИ безопаснее

Google подчеркивает, что цель всех нововведений — использовать ИИ не только как инструмент автоматизации, но и как средство защиты от кибератак и вредоносного кода.

В компании считают, что CodeMender станет шагом к созданию «самоисцеляющегося» программного обеспечения, где безопасность поддерживается в реальном времени.