Американские морпехи наглядно показали, что иногда «сломать» ИИ можно простыми трюками. В ходе эксперимента DARPA, в рамках программы Squad X, они должны были обмануть систему наблюдения, обученную распознавать людей в городских условиях. Алгоритм шесть дней тренировался выявлять морпехов по походке и позам, но испытание закончилось неожиданным результатом: все восемь участников добрались до цели, не будучи замеченными. Кто-то кувыркался 300 метров подряд, двое спрятались под картонной коробкой и подошли к датчику, смеясь, а один морпех прикрылся еловыми ветками, превратившись в «дерево». Для системы это оказалось непреодолимой задачей — она не была готова к таким нестандартным сценариям. Эксперты называют это «сдвигом распределения»: ИИ отлично справляется с ситуациями, на которых обучался, но теряется при столкновении с неожиданными вариантами. История напомнила военным, что искусственный интеллект полезен, но человеческая находчивость и креативность по-прежнему остаются решающим преимуществом.