Можно ли сегодня доказать, что текст создан ИИ
Детекторы искусственного интеллекта всё чаще используются университетами и издательствами, но их надёжность под вопросом. Технология несовершенна: программы анализа нередко ошибочно маркируют работы живых авторов как машинные, особенно если те пишут строго по правилам или используют простой язык. Борьба с обманом превращается в бесконечную гонку вооружений. Об этом рассказывает издание TechInsider.
Пользователи интернета обнаружили, что популярные детекторы признают исторические документы продуктом нейросетей. Например, Декларация независимости США 1776 года регулярно маркируется как текст, написанный машиной. Эксперименты журнала Nature подтвердили: сервис ZeroGPT при проверке этого документа выдавал вероятность генерации ИИ от 95% до 100%.
Проблема в том, что детекторы опираются на показатель «перпликсити» — непредсказуемость выбора слов. Текст нейросети статистически более предсказуем, поэтому правильная, строго выверенная речь человека часто ошибочно признаётся машинной. Исследования показывают, что популярные утилиты могут давать до 16% ложноположительных результатов на англоязычных эссе, а для авторов, не являющихся носителями языка, этот показатель подскакивает до 61%.
Нейросети развиваются стремительно, тексты новых моделей становятся всё более «человечными», а использование программ-«гуманизаторов» окончательно запутывает алгоритмы проверки. Эксперты сходятся во мнении, что автоматические оценки нельзя использовать как неопровержимое доказательство. Учёные подчёркивают: детекторы ИИ принципиально отличаются от систем антиплагиата, которые показывают конкретный первоисточник заимствования, тогда как детекторы генеративного текста не могут предоставить наглядных доказательств.
Человеческий и машинный тексты не являются взаимоисключающими: ИИ учился на миллиардах человеческих слов, и любое его предложение гипотетически мог написать человек. Специалисты призывают университеты отказаться от слепого доверия технологиям распознавания и перестроить систему оценки знаний, обращая внимание на прозрачность процесса написания. Марзена Карпинска, лингвист и компьютерный специалист из Университета Саймона Фрейзера, предупреждает: «Мы совершенно точно не можем массово отвергать людей из-за того, что детектор ИИ почему-то назвал их текст генерацией».
