источник: tproger.ru

Нейронные сети теперь умеют правильно определять расу человека по рентгеновским снимкам. Такая способность удивила исследователей.

Команда исследователей с факультета биоинформатики Университета Эмори и других институтов США обучила пять различных моделей на рентгеновских снимках разных частей тела, включая грудь и руки, а затем разметила каждое изображение в соответствии с расой пациента.

После исследователи проверили, насколько хорошо обученная модель машинного обучения может предсказать чью-то расу, опираясь только на медицинские снимки.

источник: tproger.ru

Эти предсказания оказались удивительно точными. В худшем случае алгоритм правильно угадывал расу в 80% случав, в лучшем — в 99% случаев.

Исследование показало, что ИИ теперь может предсказывать расовую принадлежность даже по искажённым, обрезанным и зашумлённым медицинским снимкам. Врач по таким изображениям определить расу не сможет.

Проблема в том, что если искусственный интеллект начнут применять в сфере медицины для определения расы, человек не сможет перепроверить алгоритм. А это может привести к печальным последствиям.

Источник: The Register