Ученые: слепая вера в ИИ может замедлить развитие науки

Принстонские исследователи опубликовали в журнале Nature материал, в котором предупреждают: искусственный интеллект всё чаще используется в науке не как инструмент открытия, а как средство имитации прогресса. По их данным, с 2012 по 2022 год доля ИИ-исследований в ряде дисциплин выросла в разы — особенно в медицине и информатике. Но вместе с ростом популярности ИИ растёт и число грубых методологических ошибок. Главная проблема — подмена понимания предсказанием. Модели часто не объясняют явления, а лишь воспроизводят шаблоны из обучающих данных, причём с ошибками. Один из типичных случаев — «утечка данных», когда модель случайно «узнаёт» тестовую выборку заранее. Это приводит к ложным выводам: так, некоторые ИИ-системы якобы распознавали COVID-19, но на деле отличали возраст пациентов. Авторы призывают изменить подход к обучению исследователей, ввести стандарты проверки и использовать скрытые тестовые наборы, чтобы исключить подгонку результатов. В противном случае наука рискует скатиться в иллюзию открытий.