### Текст после переработки **Строгие правила вывода (нарушения недопустимы)** 1. Предоставляй исключительно переработанный текст статьи — никаких вступлений и выводов. 2. Категорически запрещено менять, удалять или маскировать любые HTML-элементы, включая изображения `
`. 3. Если в оригинальном тексте присутствует тег ``, обязательно возвращай его точно в указанном месте абзаца без изменений внутри тега. Картинку описывать текстом не нужно — оставь HTML-код неизменным. 4. Запрещено применять разметку Markdown (`**`, `##` и др.). Конвертировать HTML в Markdown нельзя. 5. Сохраняй первоначальный смысл, факты, структуру текста и логичность изложения. 6. Используй русский язык.
По итогам февральского опроса 2026 года, проведенного компанией Vectra AI среди 1450 экспертов по кибербезопасности, выяснилось следующее: организации ежедневно сталкиваются примерно с 3000 потенциальными угрозами, однако 63% предупреждений остаются необработанными. Более того, 71% опрошенных признаются, что минимум пару дней еженедельно откладывают выполнение важных задач ради разбора текущих уведомлений о тревоге.
Эти цифры основаны на субъективных отчетах специалистов, а не на объективных журналах действующих систем. Стоит отметить, что Vectra AI занимается продажей решений по обнаружению угроз, что создает легкий конфликт интересов. Тем не менее, проблема очевидна: в центрах мониторинга информационной безопасности (SOC), как их называют профессионалы, накапливается огромное количество подозрительных событий, которые зачастую обрабатываются медленнее, чем поступают новые сигналы.
Отсюда возникает желание переложить значительную часть работы на искусственный интеллект. Система непрерывно мониторит инциденты, выявляет нарушителей, пресекает угрозы и закрывает дела. Специалисты занимаются наиболее сложными ситуациями. Это звучит привлекательно, особенно в презентациях поставщиков технологий.
Однако на практике картина оказывается иной. Вместо идеальной автоматизации компании сталкиваются с проблемами: неправильно настроенное время на серверах, забытыми устройствами и сотрудниками IT-отделов, устанавливающими ПО без согласования. Нейросеть может превосходить человека по интеллектуальным возможностям, но бессильна против хаоса, существование которого ей неизвестно.
Моя точка зрения проста: машине можно делегировать самостоятельное исследование в рамках заранее установленных полномочий. Однако полномочия по блокировке систем, ограничению доступа сотрудников и окончательному завершению расследований должны оставаться строго ограниченными. Уверенность нейросети не является достаточным основанием для принятия рисков, угрожающих бизнесу.
Расследователь должен ставить вопросы, а не навешивать ярлыки
Классические системы фильтрации получают уведомление о тревоге и решают, насколько срочно оно должно поступить специалисту. Нейросетевые инструменты идут дальше. Они обнаруживают подозрительное программное обеспечение, определяют источник появления, исследуют сетевые соединения, проверяют IP-адреса и действия пользователей, находят признаки взлома учетной записи и проверяют, не использовался ли этот аккаунт для несанкционированного доступа к другим серверам. Последующие шаги зависят от результатов предыдущих проверок.
Разницу можно сравнить с приемным покоем больницы. Одно дело сказать врачу: «Пациент, скорее всего, здоров». Совсем другое — представить результаты обследований, анамнез пациента, перечень нерешенных вопросов и обосновать необходимость дополнительного внимания. Хороший ИИ передает аналитикам именно второе — не поверхностный ответ, а последовательный ход событий, первичную документацию и откровенный перечень нерешенных проблем.
Особенно опасен вывод «нет признаков атаки», основанный на неполных данных. Если сетевой журнал еще не поступил, агент не сможет определить, взаимодействовала ли подозрительная программа с внешними серверами. Отсутствие записи не может служить доказательством отсутствия угрозы. Никакая мощная языковая модель тут не поможет.
Есть также различия между простым снятием тревоги и полным завершением расследования. Предположим, одно предупреждение оказалось ложным, и агент правомерно удалил его из списка. Однако связанные события могут потребовать дополнительной проверки, а злоумышленники могут воспользоваться альтернативными методами проникновения. Закрытие сигнала не равносильно устранению угрозы. Надежная система сохраняет взаимосвязь отдельных уведомлений, общего инцидента и предпринятых мер по его ликвидации, не путая одно с другим.
Дорогостоящий агент быстро замечает дешевый беспорядок
Чтобы объединить вход сотрудника, запуск приложения и сетевое подключение в единую историю, записи должны содержать корректное время и идентификационные метки устройств. На практике часы одних серверов отстают, другие регистрируют местное время без указания часового пояса, третьи вообще перестали передавать журналы. Машина способна создать из фрагментов правдоподобную картину, пусть и ошибочную, но внешне убедительно объясняющую ситуацию.
Не менее важно описание оборудования. Та же подозрительная активность на ноутбуке сотрудника, сервере резервного копирования и платежной системе требует различных подходов. Безопасное решение предполагает точное определение назначения устройства, ответственного лица, связи с другими системами и последствий отключения. Без этой информации автоматическое «решение проблемы» способно привести к остановке продаж или потере доступа к резервным копиям в неподходящий момент.
Следующий аспект вызывает особое беспокойство руководителей. Знает ли служба безопасности, какие изменения были официально санкционированы администраторами? Если на десятках серверов внезапно появляется новая служба, агент должен сопоставить эти изменения с официальной заявкой на установку программного обеспечения. Если компания действует по принципу «установили и сообщили позже», машине нечего сравнивать с подозрительной активностью. Тогда она либо постоянно генерирует ненужные тревоги, либо однажды примет реальную атаку за обычное техническое обслуживание.
Получается следующая ситуация: организация приобретает дорогостоящее решение, ожидая сокращения затрат на безопасность, а внедрение вскрывает хронический управленческий беспорядок. Никто точно не знает, какая задача возложена на каждый сервер, кто уполномочен его отключать и почему накануне вечером на нем появилось новое приложение. Искусственный интеллект не устраняет плохую организацию процессов, но помогает выявить ее недостатки за внушительные суммы денег.
Пусть ИИ ищет ответы, но не получает полный доступ к зданию
Автоматизация реакции на угрозы существовала задолго до современных языковых моделей. Существуют платформы SOAR, объединяющие защитные механизмы и реализующие заранее утвержденные сценарии. Например, такие системы собирают связанные события, направляют подозрительные файлы на дополнительную проверку, запрашивают разрешение на блокировку и фиксируют результаты. Для типичных повторяющихся ситуаций подобные схемы отлично функционируют без участия генеративного ИИ.
Польза интеллектуальных агентов проявляется там, где стандартных сценариев недостаточно. Машина может выбирать дальнейшие шаги, анализировать аномалии и предлагать объяснения. Однако даже самостоятельное расследование не должно подразумевать полную свободу действий. Чтобы провести расследование, агенту необходим доступ к журналам, корпоративной электронной почте, информации об учетных записях и иногда к конфиденциальным документам. Уже сам процесс сбора доказательств сопряжен с рисками.
Например, для проверки подозрительного письма агенту необязательно просматривать всю внутреннюю переписку руководства. Для анализа зараженного ноутбука не нужен доступ ко всем резервным копям компании. Следует ограничить права на получение данных, четко обозначив разрешенные источники, объем запросов и используемые инструменты, фиксируя запросы и контролируя передачу информации во внешние сервисы. В противном случае добросовестный агент становится инструментом, которому позволено исследовать практически всё подряд.
С особо опасными действиями ограничения должны быть еще жестче. Как корпоративная кредитная карта: сотрудник сам выбирает покупки, но лимиты устанавливает бухгалтерия, а не личные предпочтения работника. Подозрительный ноутбук рядового сотрудника при определенных обстоятельствах можно автоматически исключить из корпоративной сети. Но останавливать сервер, принимающий платежи, только потому, что нейросеть сочла атаку вероятной, — идея сомнительная.
Даже если модель утверждает свою уверенность в 98%, невозможно однозначно утверждать, что вероятность ошибки равна оставшимся 2%. Прежде чем делать такие выводы, необходимо проверить точность оценки на реальных данных и удостовериться, что заявленный уровень уверенности соответствует фактической точности решений. Однако игнорировать блокировку из-за страха простоя тоже неразумно. Продолжающаяся атака может обернуться большими потерями. Выбор зависит от последствий обеих ситуаций — ошибочного отключения системы и пропуска атаки, а не от красивых процентов на экране.
Есть и другая ловушка. Отправить команду на блокировку не значит прекратить атаку. Компьютер может быть выключен или недоступен по сети. Удаление одного вредоносного файла не гарантирует, что злоумышленник не оставил запасной путь проникновения. Изменение пароля не всегда завершает активные сессии пользователя в приложениях.
Документация Microsoft содержит любопытный совет: при отмене доступа к скомпрометированному аккаунту в инфраструктуре, где локальные каталоги Active Directory связаны с облачными сервисами аутентификации, рекомендуется сбрасывать пароль дважды. Это связано с риском атак с использованием украденных цифровых отпечатков паролей, особенно при задержках между серверами. Для стандартного сброса пароля такая мера не нужна, однако даже двойное изменение пароля не гарантирует завершение всех активных сессий в сторонних приложениях.
Поэтому агент должен проверять не факт отправки команды, а фактическое исполнение. Изолирована ли система? Отключены ли подозрительные соединения? Действительно ли ограничен доступ? Если подтверждения нет, расследование продолжается или передается сотруднику. В противном случае отчет «угроза ликвидирована» может означать лишь успешное нажатие кнопки системой.
Четыре распространенных ошибки, которые легко совершить
Автономность решений лучше всего иллюстрируется обычными инцидентами. Угрозы редко возникают вследствие сложных приемов хакеров. Обычно машине предстоит различить повседневную деятельность от первых признаков атаки.
Сообщение от службы поддержки: Сотруднику предлагается немедленно зайти в корпоративную почту. Агент проверяет ссылку, отправителя и аналогичные письма коллег. Однако схожесть темы не делает рассылку вредоносной. Переход по ссылке еще не означает компрометацию учетных данных. Важно установить, вводил ли сотрудник свои данные, появлялись ли подозрительные входы и сохранились ли копии письма в других почтовых ящиках.
Текстовый редактор запускает системную команду: Подобное поведение вызывает подозрения, так как документ может запустить вредоносный код. Однако аналогичная техника используется легальными средствами автоматизации. ИИ должен восстановить цепочку запуска, проверить созданные файлы и соединения, а не отключать устройство только на основании комбинации имен программ. Меры для рабочего ноутбука и важного сервера будут отличаться.
Вход из другой страны: Новый IP-адрес может относиться к корпоративной сети или VPN-сервису. Подозрение усиливается, если после входа меняется метод подтверждения личности, создается переадресация почты на внешний адрес или осуществляется доступ к ранее неизвестным ресурсам. Географическое местоположение само по себе не основание для лишения сотрудника доступа.
Одновременное появление новой службы на нескольких серверах: Это может свидетельствовать о развертывании обновления администраторами или распространении атаки злоумышленниками. Ключевой вопрос часто носит не технический, а административный характер: существует ли официальная заявка, совпадает ли в ней время, учетная запись и список серверов? Даже полное соответствие не гарантирует безопасность нового файла, а отсутствие заявки не доказывает наличие атаки. Такая проверка не происходит автоматически при внедрении ИИ — связь с системой управления изменениями придется настраивать вручную.
Общий принцип прост: хороший расследователь демонстрирует факты, лежащие в основе вывода. Плохой пытается замаскировать нехватку информации гладким объяснением, затрудняя сотрудникам выявление ошибок.
Атаку можно скрыть прямо в улике
Существует угроза, отсутствовавшая у традиционных автоматизированных решений. Языковые модели воспринимают не только инструкции разработчиков, но и тексты, частично управляемые злоумышленниками: тему письма, название файла, содержание документа, адрес веб-страницы или строки журнала. Хакер может включить в эти элементы указание для ИИ проигнорировать признаки атаки, признать инцидент безопасным или передать собранную информацию третьей стороне.
Представьте, что в подозрительном сообщении содержится фраза, предназначенная для автоматического проверяющего, предписывающая завершить расследование без дальнейших шагов. Для традиционного почтового сервера это обычный текст. Для уязвимой языковой модели чужие слова могут стать приказом. Этот прием называется непрямой инъекцией команд.
Причем грубая команда вроде «забыть все предыдущие указания» срабатывает далеко не всегда. Намного эффективнее выглядит просьба, оформленная как рекомендация старшего аналитика или официальное подтверждение безопасности. Исследователи на конференции USENIX Security 2026 продемонстрировали, что вредоносные команды, встроенные в сетевые журналы, могут повлиять на выводы языковых моделей. Эксперименты проводились в лабораторных условиях, поэтому результаты нельзя механически экстраполировать на реальные центры мониторинга безопасности.
Некоторые разработчики борются с такими ошибками, заставляя одну модель перепроверять другую. В декабре 2025 года Yandex Cloud представила подобную схему в своем центре мониторинга. Первый ИИ-агент обрабатывает поступающие уведомления, второй проверяет достоверность данных. По словам представителей компании, эта система автоматизирует 39% рутинных задач, сокращая время обработки ложных тревог на 86%.
Проверка двумя агентами действительно позволяет выявлять ошибки первой модели. Однако полагаться на вторую модель как на абсолютную защиту небезопасно. Если обе модели используют фальсифицированные журналы, каждая из них может подтвердить ошибку другой. Появляется не одна уверенная нейросеть, а две одинаково уверенные модели. Истину голосованием не получить.
Поэтому незаполненные тексты следует отделять от управляющих команд, сохранять оригинальные доказательства и ограничивать права агента. Важнейшие выводы стоит сверять с независимыми источниками событий и действующими регламентами. Во время тестирования полезно давать системе письма и журналы, содержащие попытки обмануть модель. Если агент не справляется с такими тестами, право самостоятельно закрывать расследования пока преждевременно.
Пустая очередь тревог не означает экономию
Первые результаты внедрения выглядят впечатляющими. Согласно клиентскому кейсу Microsoft, медицинский центр St. Luke’s University Health Network ежемесячно экономит около 200 рабочих часов аналитиков благодаря автоматической обработке и закрытию тысяч ложных тревог, вызванных фишингом. Речь идет именно о фишинге, а не обо всех событиях центра мониторинга. Ошибочно закрыть жалобу сотрудника намного легче, чем расследовать вторжение злоумышленника в корпоративную сеть и убедиться, что доступ действительно заблокирован.
Этот пример показателен, но переносить сэкономленное время на другую инфраструктуру бесполезно. Мы имеем дело с результатом конкретной организации, представленным поставщиком услуг. Тысячи закрытых оповещений сами по себе не свидетельствуют о количестве завершенных полноценных расследований, предотвращенных атак или пропущенных угроз среди ложных сигналов.
Экономию следует рассчитывать отдельно по каждому типу происшествий, а не по всей деятельности центра мониторинга разом. Фишинговые атаки подчиняются одним закономерностям, захват учетных записей — другим. Число закрытых сигналов само по себе малоинформативно. Значимо отслеживать время до обоснованного заключения, скорость реального устранения угрозы и общую нагрузку аналитиков наряду с исправлением ошибок агента.
Самая серьезная статья расходов возникает после внедрения. Кто займется проверкой инцидентов, которые машина заключила как безопасные? Покупая ИИ, компания рассчитывала освободить сотрудников от рутины, но теперь вынуждена выделять ресурсы на проверку решений машины. Формальное рассмотрение малоэффективно, если аналитик видит только итоговое мнение нейросети, не получает исходные события или вынужден бегло просматривать десятки закрытых дел. В таких условиях ошибка легко остается незамеченной вне зависимости от опыта сотрудника.
Решение не в том, чтобы заставить лучших специалистов повторно изучать каждое закрытое дело. Необходим независимый выборочный контроль. Часть случаев выбирается случайно, часть — по повышенной степени риска, например, когда затрагивается важный сервер, привилегированный аккаунт или отсутствуют журналы. Проверяющий должен сначала увидеть исходные события без мнения ИИ, чтобы заключение «безопасно» не диктовало готовый ответ. Сложные и спорные случаи передаются экспертам с соответствующими компетенциями и полномочиями.
Такие затраты необходимо учитывать при расчете общей выгоды. Отдельно следует учитывать атаки, обнаруженные позднее среди автоматически закрытых инцидентов. Если после внедрения сотрудники стали работать меньше, но пропущенные угрозы никто не отслеживал, мы имеем не подтвержденную эффективность, а удобную статистику.
Исследование с участием 167 аналитиков показало цену слова «безопасно»
В ноябре 2025 года исследователь Microsoft Джеймс Боно представил эксперимент с участием 167 специалистов по безопасности. Участникам предоставляли очередь из 25 жалоб сотрудников на письма. Первая группа работала самостоятельно, вторая видела оценки и пояснения ИИ, третья получала письма в порядке, предложенном машиной, но не знала об этом.
На первый взгляд результаты эксперимента выглядели многообещающе. По расчетам исследователей, если исключить из ручной проверки письма, признанные агентом безопасными, аналитики смогли бы обнаружить в 6,5 раза больше вредоносных сообщений за минуту работы. В менее благоприятном сценарии, где ИИ распознавал атаки хуже, а доля вредоносных писем была выше, прирост составил около 3,1 раза. Основная часть увеличения производительности происходила за счет исключения из рассмотрения писем, предварительно проверенных машиной.
Но есть важное уточнение. На начальном наборе из 93 писем агент классифицировал все случаи верно. Поэтому ученые специально добавили ошибочные оценки ИИ, чтобы проверить реакцию участников на неверные рекомендации. Результаты относятся к контролируемому эксперименту, а не к реальной частоте ошибок в рабочем центре мониторинга.
Вот где кроется настоящая интрига. Когда вредоносное письмо сопровождалось ложной оценкой ИИ «безопасно», аналитики, видящие подсказки машины, пропускали угрозу в 46% случаев. Контрольная группа без подсказок пропускала те же специально подготовленные случаи в 17% случаев. Разница составила 29 процентных пунктов.
Участники не слепо следовали рекомендациям машины. На письма, помеченные агентом как вредоносные, аналитики уделяли больше времени и тщательно проверяли выводы. Проблемы возникали тогда, когда ИИ заявлял, что сообщение безопасно. Люди склонны доверять готовым оценкам и чаще пропускают угрозу.
Исследование опровергает популярное мнение, согласно которому новички неизбежно уступают опытным специалистам в подобных задачах. Молодые сотрудники не демонстрировали систематического ухудшения способности выявлять вредоносные письма. Главная опасность заключается не в уровне квалификации проверяющих, а в том, как машинные подсказки влияют на человеческие решения. Вот почему независимую проверку следует начинать с изучения исходных данных, а не с прочтения готовых заключений ИИ.
Авторы исследования полагают целесообразным скрывать от аналитиков письма, которые агент счел безопасными. Логика ясна: иначе теряется значительная часть выигрыша во времени. Однако руководителям центров мониторинга остается неприятный вопрос: кто заметит атаку, скрытую машиной? В поисках ответа придется смотреть не на новую технологию, а на независимые проверки, контроль качества и готовность оплачивать выявление собственных ошибок.
Утро с пустым списком тревог может иметь два объяснения: либо специалисты эффективно обработали угрозы, либо инциденты стали закрывать настолько быстро, что их никто не замечает. Единственным способом различить эти варианты является периодическое изучение тех событий, которые машина уже посчитала безопасными.
18+. Реклама. Рекламодатель: ООО «Интеллектуальная безопасность», ИНН 7719435412, erid: 2SDnjdeEJpk
