Людей-модераторов может заменить ИИ: авторы ChatGPT предложили свой инструмент
Он уже обучаетсяOpenAI считает, что ее технология может произвести революцию в области модерации контента. GPT-4, усовершенствованная языковая модель, способна заменить десятки тысяч модераторов-людей, обеспечивая сопоставимую точность и большую согласованность, заявила компания.
OpenAI уже тестирует GPT-4 для разработки контентной политики, маркировки и принятия решений. Такой подход: машины более последовательны в применении политик, они могут быстро адаптироваться к новым рекомендациям и избавляют модераторов от необходимости сталкиваться с неприятным контентом. Хотя модерация с помощью ИИ не является чем-то новым, решение OpenAI может быть полезным для небольших платформ, не имеющих ресурсов для создания собственной технологии.
Однако остается проблема, связанная с тем, что даже самые совершенные системы не смогут обеспечить идеальную модерацию контента из-за сложности выделения вводящего в заблуждение, агрессивного и противоправного контента. Так что эти проблемы еще предстоит решить.