Искусственный интеллект определил расу человека по рентгеновским снимкам
Это беспокоит исследователейВыяснилось, что модели глубокого обучения (методы искусственного интеллекта) могут определить чью-то расу только по рентгеновским снимкам. Это было бы невозможно для врача-человека. Из-за этого систему решили пока не внедрять в больницы.
Разработчики обучили модель на сотнях тысяч существующих рентгеновских изображений, а затем протестировали её на новых снимках. Система смогла предсказать расовую принадлежность пациента с удивительной точностью — до 90% в некоторых случаях.
Что интересно, даже если разработчики удаляли из набора обучения некоторую информацию — например о плотности костей — модель всё равно очень хорошо угадывала расу. Есть подозрения, что система находит признаки пигмента, придающего коже её цвет. Интерпретировать модель же сложно.
Исследователей обеспокоили результаты. Они заявили, что не будут спешить с внедрением алгоритмов в больницы и клиники, пока не будут уверены, что «они не принимают расистских или сексистских решений».
Источник:Science Alert
Автор:Ксения Мурашева