ИИ научился анализировать рентген легких, как врач-рентгенолог

Обычно системы ИИ работают как «черный ящик» — они выдают результат, но не объясняют, как именно его получили. По мнению руководителя исследования Нган Ле, для того чтобы врачи доверяли технологиям, они должны понимать логику их решений. В этом случае специалисты смогут использовать искусственный интеллект как инструмент, а не слепо полагаться на его выводы.

Чтобы обучить ItpCtrl-AI, исследователи записали, как рентгенологи просматривают снимки: какие участки изучают и сколько времени уделяют каждой области. На основе этих данных был создан тепловой экран внимания — он показывает, куда должен «смотреть» ИИ при анализе изображения. Такой подход позволяет программе учитывать особенности снимков и повышает точность диагностики.

Прозрачность работы системы не только укрепляет доверие врачей и пациентов, но и важна с точки зрения юридической и этической ответственности. В критически важных областях, таких как медицина, автономные автомобили и финансовые технологии, необходимо понимать, как принимаются решения, чтобы избежать ошибок и предвзятости.

Сейчас команда исследователей совместно с онкологическим центром MD Anderson в Хьюстоне работает над тем, чтобы адаптировать ItpCtrl-AI для анализа более сложных медицинских изображений, например трёхмерных КТ-снимков.