Pymetrics представила Audit AI: ПО для анализа алгоритмов

Pymetrics опубликовала инструмент Audit AI, разработанный для обнаружения смещения в алгоритмах ИИ. ПО предназначено для определения статистической значимости данных, предоставленных нейросети.

Как это работает?

Инструмент способен проверять множество алгоритмов, вплоть до систем, способных высчитать вероятность получения кредита. Audit AI способен только найти дисбаланс в работе кода, но исправление ошибки остаётся за разработчиком.

Изначально ПО было разработано для проверки инструкций, созданных Pymetrics и предназначенных для выявления кандидатов, подходящих на должность в компании. Для составления этих алгоритмов разработчики предложили руководителям компаний пройти опрос. С помощью проведенного тестирования удалось выявить показания более 90 когнитивных и эмоциональных признаков.

Мы разработали его, чтобы вывести результаты практически любой техники машинного обучения.  Если вы можете скопировать репозиторий [на GitHub], вы можете воспользоваться Audit AI.

Искусственный интеллект применяется в самых разнообразных областях и сферах жизни. Апрель 2018 года ознаменовался написанием нейросетью собственного кода на Java и созданием мультфильмов по текстовому описанию, а в конце мая ИИ научился менять музыкальные инструменты в аудиозаписях.