Почему детекторы нейросетей могут ошибаться
ИИ-инженер Тим Зинин объяснил, почему системы распознавания нейросетей могут давать ошибочные результаты.
Системы, определяющие, был ли текст сгенерирован нейросетью, оценивают только вероятность сходства с типичным выводом нейросети и не могут служить окончательным доказательством его происхождения, рассказал ИИ-инженер Тим Зинин.
На точность таких проверок могут влиять ручная редактура текста, сочетание собственного содержания с фрагментами, созданными нейросетью, а также другие особенности стилистики и структуры авторского текста.
По словам Зинина, автоматический отчёт следует рассматривать как вспомогательный инструмент, а не как окончательное утверждение о том, откуда взят текст.
Он подчеркнул, что при оценке студенческих работ важно учитывать не только результаты проверочных систем, но и способность автора понимать содержание и объяснять свои мысли в тексте.
Заметка сгенерирована нейросетью по сообщению «АиФ» и может содержать неточности.
Читать первоисточник