OpenAI уволила подрядчиков за использование… ИИ при проверке ответов ChatGPT

Для справки: OpenAI привлекает тысячи подрядчиков для проверки некоторых запросов пользователей и ответов ChatGPT. Они оценивают «точность информации» и следят за тем, чтобы модель «не подстраивалась чрезмерно под мнение пользователя».

Справедливости ради, в инструкциях прямо говорится, что нельзя применять не только другие ИИ-сервисы, но и такие инструменты, как GPTZero, Grammarly и переводчик.

Причина запрета связана с качеством обучения моделей. Если ИИ начинает обучаться преимущественно на материалах, созданных другим ИИ, это может привести к «коллапсу модели», то бишь «постепенной потере качества и появлению ошибок».