Искусственный интеллект научился определять расу по рентгеновским снимкам с точностью 99% — лучше, чем это делают врачи

Нейронные сети теперь умеют правильно определять расу человека по рентгеновским снимкам. Такая способность удивила исследователей.  

Команда исследователей с факультета биоинформатики Университета Эмори и других институтов США обучила пять различных моделей на рентгеновских снимках разных частей тела, включая грудь и руки, а затем разметила каждое изображение в соответствии с расой пациента.

После исследователи проверили, насколько хорошо обученная модель машинного обучения может предсказать чью-то расу, опираясь только на медицинские снимки.

Сводная таблица по нескольким наборам данным с предсказанием расы

Эти предсказания оказались удивительно точными. В худшем случае алгоритм правильно угадывал расу в 80% случав, в лучшем — в 99% случаев.

Исследование показало, что ИИ теперь может предсказывать расовую принадлежность даже по искажённым, обрезанным и зашумлённым медицинским снимкам. Врач по таким изображениям определить расу не сможет.  

Проблема в том, что если искусственный интеллект начнут применять в сфере медицины для определения расы, человек не сможет перепроверить алгоритм. А это может привести к печальным последствиям. 

Подробнее в полном исследовании →

Источник: The Register