Microsoft выпустила open-source инструмент для проверки защищённости ИИ

На GitHub-аккаунте Azure появился репозиторий с новым проектом — Counterfit. Его основной задачей является тестирование чужого искусственного интеллекта (ИИ) на защищённость от атак. Дополнительного «шарма» проекту добавляет его «опенсорсность».

Представители Microsoft рассказали, что их прошлые исследование показали острую нужду разработчиков в инструменте, способном выявить уязвимости в ИИ.

Всего есть два способа быстрого запуска инструмента: деплоить через Azure или настроить окружение Anaconda Python и установить локально.

Деплой через Azure

1. Перейти по ссылке, чтобы начать развёртывание небольших ресурсов в своей учетной записи Azure.
2. В колонке конфигурации укажите свою подписку и группу ресурсов.
3. Запустить команду в Azure Shell, заменив RESOURCE_GROUP на группу ресурсов, выбранную в предыдущем пункте: az container exec --resource-group RESOURCE_GROUP --name counterfit --exec-command '/bin/bash'
4. Запустить Counterfit внутри контейнера: python counterfit.py

Локальная установка

1. Установить Anaconda Python и git.
2. Клонировать репозиторий, выполнив команду в Терминале: git clone https://github.com/Azure/counterfit.git
3. Открыть Anaconda Shell и создать виртуальное окружение и зависимости:

			cd counterfit
conda create --yes -n counterfit python=3.7
conda activate counterfit
pip install -r requirements.txt
		

Запускается Counterfit также, как и в предыдущем методе: python counterfit.py

Подробнее о проекте можно узнать на его GitHub-странице.

Источник: GitHub/Azure