Исследование: ИИ-чатботы пока рано называть полностью безопасными

Организация Transluce провела более 50 000 тестовых разговоров с 77 версиями разных ИИ-моделей. Так, современные чатботы почти перестали прямо поддерживать разговоры на запрещенные темы. Более старые модели поддерживали их до 82% случаев.

Вот только появилась проблема «серых зон». Если человек прямо говорит о чем-то вредном, чатбот обычно советует обратиться к близким или специалистам. Но когда тот же человек просит написать рассказ или сцену на похожие темы, система может выполнить запрос.

Transluce планирует открыть собственные инструменты для проверки ИИ к концу года.