Что такое текстовый классификатор OpenAI?
Хотя невозможно обнаружить контент, созданный ИИ, со 100-процентной точностью, OpenAI считает, что его новый инструмент поможет уменьшить количество ложных утверждений о том, что люди пишут контент, созданный ИИ.В своем заявлении компания сообщает, что ее новый ИИ-классификатор текста может ограничить такие ситуации, как проведение автоматизированных кампаний по дезинформации, использование инструментов ИИ для академического мошенничества и выдача себя за человека с помощью чат-ботов.
Инструмент был протестирован на наборе английских текстов и в 26 процентах случаев смог правильно определить, был ли текст написан искусственным интеллектом. Однако он также считает, что текст, написанный человеком, был написан ИИ в 9 процентах случаев.
OpenAI утверждает, что его инструмент работает тем лучше, чем длиннее текст, поэтому для проведения теста требуется не менее 1000 символов.
Другие ограничения классификатора текстов OpenAI включают следующее:
Он может неправильно классифицировать как созданный искусственным интеллектом, так и написанный человеком контент
Текст, сгенерированный искусственным интеллектом, может избежать этой функции с незначительными корректировками.
Поскольку он в основном тренируется на англоязычном контенте, написанном взрослыми, он может неправильно понимать некоторые вещи в текстах, написанных детьми, и неанглоязычных текстах.
Опубликовано: 11-02-2023, 20:33