Летом 2023 года компания OpenAI прекратила поддержку своего сервиса для выявления машинных текстов, дополнив коротким пояснением давний пост в корпоративном блоге. Объяснение оказалось предельно честным – недостаточная эффективность. На этапе тестирования система распознавала всего 26% текстов, созданных ИИ, при этом ошибочно классифицировала 9% работ живых авторов. Разработчик, обладающий глубочайшими знаниями о языковых моделях, не смог создать надежный инструмент для выявления продуктов собственных алгоритмов.
В тот же период несколько известных детекторов проанализировали текст американской Конституции и признали его искусственно сгенерированным. При том что документ был создан более 200 лет назад. Этот случай демонстрирует ключевую особенность подобных сервисов – уверенная подача результата не гарантирует его достоверности.
Как работает детектор ИИ
Анализатор изучает текст и пытается определить его происхождение – написан ли он человеком или программой. Однозначный ответ встречается редко. Обычно система выдает процентную вероятность, к примеру «85% за машинное создание». Эта цифра создает иллюзию точного измерения, хотя на деле отражает лишь статистическую вероятность.
Понимания сути текста у алгоритма нет. Он не оценивает качество или глубину мысли, а ищет статистические аномалии, отличающие машинный текст от человеческого. Это как собака на границе: животное не знает химический состав веществ, но реагирует на знакомый запах. Когда нюх подводит, проверке может подвергнуться совершенно безопасный груз.
Критерии определения машинного текста
Необходимость в таких инструментах возникла с массовым распространением генеративных моделей. После релиза ChatGPT в конце 2022 года преподаватели столкнулись с подозрительно «отполированными» студенческими работами, а редакторы заметили необычную стилистическую однородность в материалах внештатных авторов. Спрос на проверку возник мгновенно.
Большинство детекторов основаны на алгоритмах машинного обучения. Систему обучают на огромных массивах текстов – как человеческих, так и созданных ИИ, после чего она выявляет в проверяемом материале ряд характерных особенностей.
- Предсказуемость текста (англ. perplexity). Языковые модели выбирают наиболее вероятные продолжения фраз, что делает их текст легко прогнозируемым. Человек же допускает неожиданные повороты, нелогичные переходы и спонтанные формулировки. Чем более непредсказуем текст, тем более «человечным» он кажется системе.
- Изменчивость длины предложений (burstiness). Живой автор варьирует структуру текста – длинные сложные конструкции чередуются с короткими репликами. Алгоритм обычно придерживается единого ритма.
- Логические переходы. Человеческое повествование часто содержит отступления, возвраты к предыдущим мыслям, ассоциативные связи. Машинный текст движется прямолинейно от пункта к пункту.
- Лексические предпочтения. У каждого автора есть любимые слова и выражения, которых избегают алгоритмы, обученные на разнородных данных.
Здесь кроется главная проблема. Детектор реагирует не на искусственность, а на высокую предсказуемость и стилистическую гладкость. Те же характеристики присущи юридическим документам, научным статьям, бюрократическим текстам и работам людей, пишущих на неродном языке. Именно поэтому Конституция США была ошибочно классифицирована как машинный текст.
Разница между детектором ИИ и антиплагиатом
Эти инструменты часто путают, хотя их задачи принципиально различаются.
| Критерий | Антиплагиат | Детектор ИИ |
|---|---|---|
| Основная задача | Выявление заимствований | Определение авторства |
| Методика | Сопоставление с текстовой базой | Анализ статистических закономерностей |
| Цель поиска | Точные совпадения с другими текстами | Характерные признаки машинного письма |
| Ограничения | Не различает машинный и человеческий текст | Не выявляет источники заимствований |
Антиплагиата интересует только оригинальность текста безотносительно его автора. Детектору ИИ безразлично, является ли текст уникальным – его задача лишь определить, кто его создал. Иногда эти сферы пересекаются: ИИ может дословно воспроизводить чужие тексты, не осознавая, что цитирует их. Но в большинстве случаев это совершенно разные инструменты.
Типичные ошибки детекторов
Ошибки носят не случайный, а системный характер, и их причины хорошо изучены.
| Проблема | Серьезность | Частота |
|---|---|---|
| Ложные положительные срабатывания | Высокая | Постоянно |
| Смещение обучающих данных | Средняя | Часто |
| Отставание от новых моделей ИИ | Высокая | Регулярно |
| Отсутствие контекстного анализа | Средняя | Повсеместно |
| Зависимость от объема текста | Средняя | Часто |
Наиболее критичны ложные срабатывания – когда живого человека ошибочно объявляют ботом. В 2023 году стэнфордские исследователи проверили студенческие работы через семь популярных детекторов. Эссе американских школьников система распознала почти безошибочно. Тексты неносителей языка (из теста TOEFL) в 61% случаев были ошибочно приняты за машинные, при этом 97% таких работ хотя бы один детектор пометил как созданные ИИ.
Объяснение простое и неприятное: люди, пишущие на неродном языке, используют более простую лексику, избегают сложных конструкций и пишут более «ровно» – то есть ведут себя как алгоритм. Детектор не отличает сознательное упрощение от машинного текста и маркирует оба случая как искусственные. Ошибка носит системный характер и затрагивает конкретную группу людей, поднимая вопросы справедливости.
Детекторы не успевают за развитием ИИ. Генеративные модели обновляются ежемесячно, а системы проверки требуют времени на адаптацию. В этом временном разрыве создаются тексты, которые детекторы пока не умеют распознавать.
Большинство детекторов игнорируют контекст. Медицинское исследование и личный блог пишутся по разным правилам, но алгоритмы оценивают их одинаково, часто помечая формальный стиль как «машинный». Проблемы вызывает и короткий текст – недостаток данных приводит к ошибочным выводам.
98% точности и отказ университетов от проверки
Разрыв между рекламными заявлениями и реальностью хорошо виден на примере Университета Вандербильта. Сервис Turnitin, используемый тысячами вузов, заявлял о точности около 98% с долей ложных срабатываний менее 1%. Вандербильт перевел проценты в абсолютные цифры: при потоке в 75 000 работ в год около 750 студентов могли стать жертвами ошибочных обвинений. В августе 2023 года университет отказался от Turnitin, сославшись на риск несправедливых обвинений и дискриминацию неносителей языка. За ним последовали Йель, Университет Джонса Хопкинса и несколько калифорнийских вузов.
Логика разработчиков добавляет важный нюанс: чтобы сократить ложные срабатывания, Turnitin сознательно пропускает часть машинного текста – около каждого седьмого предложения, созданного ИИ, остается без пометки. Компания предпочитает пропустить часть ботов, но не ошибиться с людьми, поэтому указанные 98% точности соответствуют лишь идеальным условиям.
Диплом за день и реакция Антиплагиата
В России дискуссия о вузах и ИИ началась с конкретного случая. В 2023 году студент РГГУ Александр Жадан публично рассказал, что защитил диплом, созданный с помощью ChatGPT. Текст был подготовлен за сутки с небольшой доработкой, и вузовская система определила его оригинальность в 82%. Часть общественности требовала отозвать диплом, но вуз сохранил его, оставив открытым вопрос выявления подобных случаев. Важно, что факт использования ИИ выявил не алгоритм, а сам пост в соцсетях.
Ответом отрасли стало технологическое решение. С 2025 года в Антиплагиат.ВУЗ встроен модуль, помечающий фрагменты, похожие на машинные. Разработчики открыто признают, что системы проверки развиваются медленнее генеративных моделей, что выгодно отличает их позицию от западных конкурентов с громкими заявлениями о 98% точности.
Невидимые метки в текстах ИИ
Поскольку анализ стиля оказался ненадежным, разработчики начали помечать тексты при их создании. Наиболее заметен проект SynthID от Google DeepMind.
Механизм работает деликатно. При генерации текста SynthID слегка корректирует вероятности слов, создавая незаметный для человека уникальный узор. Специальный детектор проверяет наличие этого узора. Осенью 2024 года Google открыла исходный код, а к 2026 году было помечено более 10 миллиардов текстов.
Метод имеет ограничения: SynthID распознает только тексты, созданные инструментами Google, и теряет метку при переводах или переработке текста. Google признает, что технология не идеальна.
Законодательство усиливает этот тренд. Европейский AI Act, действующий с августа 2024 года, требует обязательной маркировки текстов ИИ к 2026 году, превращая эту меру из добровольной в обязательную.
Соревнование детекторов и способов их обхода
Параллельно с детекторами развивается индустрия «очеловечивания» текстов – сервисов, которые искусственно вносят хаотичность и «живость» в машинные тексты. Эти инструменты знают, какие параметры анализируют детекторы, и специально их искажают.
Рецепт «очеловечивания» прост – нужно делать то, что пока плохо удается ИИ: варьировать длину предложений, добавлять личные мнения, делать неожиданные переходы. По сути, детектор наказывает за сухой официальный стиль и поощряет естественную живую речь.
Гонка продолжается: модели учатся писать естественнее, детекторы адаптируются, сервисы обхода совершенствуются. Конеца этой эволюции пока не видно.
Можно ли доверять детекторам
Как вспомогательный инструмент детектор полезен, но как доказательство – ненадежен. В лучшем случае точность составляет 60–80%, а на коротких или переработанных текстах она существенно ниже. Цифра в отчете не доказывает ничего и служит лишь поводом для дополнительной проверки.
Для тех, кого детектор ошибся, последствия могут быть неприятными. Оспорить результат можно только черновиками и историей правок – сама система не объясняет свои выводы, а разработчики не раскрывают алгоритмы принятия решений.
Источник: http://www.securitylab.ru/analytics/573275.php
