Microsoft выпустила open-source инструмент для проверки защищённости ИИ

И выложила его файлы на GitHub.

На GitHub-аккаунте Azure появился репозиторий с новым проектом — Counterfit. Его основной задачей является тестирование чужого искусственного интеллекта (ИИ) на защищённость от атак. Дополнительного «шарма» проекту добавляет его «опенсорсность».

Представители Microsoft рассказали, что их прошлые исследование показали острую нужду разработчиков в инструменте, способном выявить уязвимости в ИИ.

Всего есть два способа быстрого запуска инструмента: деплоить через Azure или настроить окружение Anaconda Python и установить локально.

Деплой через Azure

  1. Перейти по ссылке, чтобы начать развёртывание небольших ресурсов в своей учетной записи Azure.
  2. В колонке конфигурации укажите свою подписку и группу ресурсов.
  3. Запустить команду в Azure Shell, заменив RESOURCE_GROUP на группу ресурсов, выбранную в предыдущем пункте: az container exec --resource-group RESOURCE_GROUP --name counterfit --exec-command '/bin/bash'
  4. Запустить Counterfit внутри контейнера: python counterfit.py

Локальная установка

  1. Установить Anaconda Python и git.
  2. Клонировать репозиторий, выполнив команду в Терминале: git clone https://github.com/Azure/counterfit.git
  3. Открыть Anaconda Shell и создать виртуальное окружение и зависимости:
cd counterfit
conda create --yes -n counterfit python=3.7
conda activate counterfit
pip install -r requirements.txt

Запускается Counterfit также, как и в предыдущем методе: python counterfit.py

Подробнее о проекте можно узнать на его GitHub-странице.

Источник: GitHub/Azure