Летом 2023 года OpenAI прекратила работу своего сервиса по выявлению текстов, созданных ИИ, дополнив кратким пояснением старую публикацию в блоге. Причина была указана прямо — недостаточная эффективность. На начальном этапе система идентифицировала лишь 26% машинных текстов, при этом ошибочно классифицировала 9% человеческих работ как сгенерированные. Компания, обладающая наибольшими знаниями о языковых моделях, не смогла создать надежный инструмент для распознавания собственных продуктов.
В тот же период несколько известных детекторов проанализировали текст Конституции США и определили его как созданный нейросетью. Документу насчитывается более 200 лет. Этот случай демонстрирует ключевую проблему подобных сервисов — уверенный тон результатов не гарантирует их достоверности.
Как работают детекторы ИИ
Основная задача таких сервисов — определить происхождение текста: написан ли он человеком или алгоритмом. Однозначный ответ встречается редко. Программа обычно выдает вероятностную оценку, например «85% вероятность машинного авторства». Эта цифра создает иллюзию точного измерения, хотя на деле отражает лишь статистическую вероятность.
Понимания сути ответа не происходит. Детектор не оценивает качество или осмысленность текста, а анализирует статистические маркеры, отличающие машинный текст от человеческого. Это похоже на работу собаки на таможне — животное не знает химический состав вещества, но реагирует на знакомый запах. Когда система ошибается, под подозрение может попасть даже оригинальный контент.
Критерии определения машинного текста
Необходимость в таких инструментах возникла с массовым распространением генеративных моделей. После запуска ChatGPT в конце 2022 года преподаватели стали получать подозрительно отполированные работы, а редакторы заметили унификацию стиля у внештатных авторов. Спрос на проверку возник мгновенно.
Большинство детекторов используют машинное обучение. Алгоритм обучают на миллионах примеров человеческих и сгенерированных текстов, после чего он ищет в проверяемом материале определенные характеристики.
- Предсказуемость содержания (англ. perplexity). Языковые модели обычно выбирают наиболее вероятные варианты продолжения текста, что делает их предсказуемыми. Человек же использует неожиданные обороты, делает стилистические скачки, иногда выбирает слова интуитивно.
- Разнообразие длины предложений (burstiness). Живой автор варьирует структуру — сложные конструкции чередуются с короткими фразами. Алгоритмы обычно поддерживают однородный ритм.
- Логические переходы. Человеческий текст часто содержит отступления, возвраты к предыдущим мыслям. Модели движутся линейно от точки к точке.
- Лексические предпочтения. У каждого автора есть любимые слова и избегаемые выражения. У ИИ свой словарный набор, унаследованный из обучающих данных.
В этом кроется основная слабость. Детекторы реагируют не на искусственность, а на предсказуемость, плавность и однородность. Эти же черты характерны для официальных документов, научных статей и текстов людей, пишущих на неродном языке простыми конструкциями. Конституция США попала под подозрение именно по этой причине.
Разница между детектором ИИ и антиплагиатом
Эти инструменты часто путают, хотя их задачи принципиально различны.
| Критерий | Антиплагиат | Детектор ИИ |
|---|---|---|
| Основная цель | Выявление заимствований | Определение авторства |
| Методика | Сравнение с базой существующих текстов | Анализ стилистических особенностей |
| Объект поиска | Дословные совпадения | Статистические паттерны |
| Ограничения | Не различает человека и ИИ | Не находит источник заимствования |
Антиплагиат проверяет текст на уникальность, не интересуясь его происхождением. Детектор ИИ, напротив, фокусируется именно на авторстве, игнорируя возможные заимствования. Лишь в редких случаях эти функции пересекаются — когда нейросеть дословно воспроизводит чужой текст.
Типичные ошибки детекторов
Проблемы таких систем носят не случайный, а системный характер.
| Недостаток | Серьезность | Частота |
|---|---|---|
| Ложные срабатывания | Высокая | Постоянно |
| Смещение обучающей выборки | Средняя | Часто |
| Отставание от новых моделей | Высокая | Регулярно |
| Игнорирование контекста | Средняя | Повсеместно |
| Зависимость от объема текста | Средняя | Часто |
Наиболее критичны ложные срабатывания. В 2023 году исследователи из Стэнфорда проверили студенческие работы через семь популярных детекторов. Тексты носителей языка система распознала почти идеально. А вот эссе иностранных студентов (материалы теста TOEFL) в 61% случаев были ошибочно помечены как сгенерированные, при этом 97% таких работ хотя бы один детектор определил как машинные.
Причина проста и неприятна. Люди, пишущие на неродном языке, используют более простую лексику, строят фразы аккуратнее, избегают сложных конструкций — то есть ведут себя аналогично алгоритму. Система не различает осторожность изучающего язык и расчетливость ИИ, помещая оба случая в категорию «предсказуемых». Эта ошибка дискриминирует конкретную группу, поднимая вопросы справедливости.
Детекторы не успевают за развитием моделей. Генеративные системы обновляются ежемесячно, становясь все более естественными, тогда как алгоритмы проверки требуют времени на адаптацию. В этот промежуток новые тексты остаются нераспознанными.
Большинство систем игнорируют контекст. Медицинская статья и личный блог пишутся по разным правилам, но детекторы оценивают их одинаково, приписывая формальному стилю высокую вероятность машинного происхождения. Проблемы возникают и с короткими текстами — из-за недостатка материала для анализа даже пара предложений может получить ошибочную метку.
Заявленная точность и отказ университетов от проверки
Разрыв между обещаниями и реальностью иллюстрирует случай Университета Вандербильта. Сервис Turnitin, используемый тысячами учебных заведений, заявлял о точности около 98% и менее 1% ложных срабатываний. Вандербильт перевел проценты в абсолютные цифры — при потоке в 75 тысяч работ ежегодно около 750 студентов могли стать жертвами ошибочных обвинений. В августе 2023 года университет отказался от использования Turnitin, сославшись на риск несправедливых обвинений и предвзятость к иностранным студентам. Вслед за ним проверку отменили Йель, Университет Джонса Хопкинса и несколько кампусов Калифорнийского университета.
Внутренняя политика сервиса добавляет важный нюанс. Для минимизации ложных срабатываний Turnitin сознательно пропускает часть машинных текстов — примерно каждое седьмое сгенерированное предложение остается без пометки. Компания предпочитает пропустить ИИ-текст, чем ошибочно обвинить человека, поэтому заявленные 98% точности соответствуют лишь узкому набору условий.
Диплом за день и реакция системы Антиплагиат
В России дискуссия об использовании ИИ в образовании началась с конкретного случая. В 2023 году студент РГГУ Александр Жадан публично признался, что защитил диплом, написанный в ChatGPT. На создание текста ушло около суток, нейросеть потребовалось дообучить, после чего вузовская система оценила 60 страниц как 82% оригинальных. Часть общественности потребовала аннулировать диплом. РГГУ оставил решение в силе, но вопрос о выявлении подобных случаев остался открытым. Обнаружил плагиат не детектор, а публикация в соцсетях.
Отрасль отреагировала технически. С 2025 года в систему Антиплагиат.ВУЗ внедрили модуль, помечающий подозрительные фрагменты с предупреждением в отчете. Разработчики честно признают, что нейросети развиваются быстрее систем проверки, что делает их позицию более прозрачной по сравнению с западными аналогами.
Скрытые метки в текстах ИИ
Поскольку анализ стиля оказался ненадежным, инженеры начали маркировать тексты при генерации. Наиболее заметен проект SynthID от Google DeepMind.
Механизм работает деликатно. При выборе слов система слегка корректирует вероятности, создавая в тексте незаметный для человека узор. Специальный детектор проверяет наличие этого узора. Качество текста практически не страдает. Осенью 2024 года Google открыла исходный код, на конференции I/O в 2025 запустила портал SynthID Detector, а к 2026 году пометила более 10 миллиардов фрагментов.
Метод имеет существенные ограничения. SynthID распознает только тексты, созданные инструментами Google, остальные системы для него «невидимы». Метка исчезает при переводе или значительном редактировании, чем активно пользуются сервисы «очеловечивания». Компания признает, что технология не абсолютна.
Законодательство усиливает этот тренд. Европейский AI Act, действующий с августа 2024 года, требует обязательной маркировки контента ИИ с полным переходом к 2026 году. Для европейского рынка скрытые метки становятся обязательным требованием.
Соревнование детекторов и обходных методов
Параллельно с детекторами развивается индустрия инструментов, маскирующих ИИ-тексты под человеческие. Эти сервисы знают, какие маркеры ищут системы проверки, и целенаправленно их устраняют. Каждая новая правка увеличивает шансы пройти проверку.
Методы обхода объясняют, почему человеческие тексты иногда принимают за машинные. Чтобы текст не выглядел искусственным, нужно именно то, чего не хватает моделям: варьировать длину предложений, добавлять личные примеры, делать неожиданные переходы, использовать оригинальные формулировки. По сути, детектор наказывает за формальный стиль и поощряет живую речь.
Гонка продолжается. Модели становятся естественнее, детекторы адаптируются, инструменты обхода совершенствуются. Конеца этой спирали не видно.
Степень доверия к детекторам
Как вспомогательный инструмент детекторы полезны, но как доказательство ненадежны. В идеальных условиях лучшие системы демонстрируют 60-80% точности, а на коротких или отредактированных текстах этот показатель снижается. Цифра «92% машинного» ничего не доказывает и служит лишь поводом для дополнительной проверки.
Для тех, кого система ошиблась пометить, последствия могут быть серьезными. Оспорить решение можно только предоставив черновики и историю правок, поскольку сам алгоритм не объясняет свои выводы, а разработчики не раскрывают точные критерии оценки.
Источник: http://www.securitylab.ru/analytics/573275.php
