ВАШИНГТОН, 1 октября. /ТАСС/. ИИ-агенты предприняли попытку взлома сайта правительства Канады, сообщила газета The Washington Post (WP) со ссылкой на источники.
По данным некоммерческой исследовательской организации Transluce, эти модели, способные выполнять действия на компьютерах и в интернете, пытались получить доступ к ресурсам библиотеки и архива Канады (аналог библиотеки Конгресса США). Исследователи не исключают, что к инциденту причастны ИИ-агенты OpenAI — разработчика чатбота ChatGPT.
Они отмечают, что их поведение напоминало действия моделей этой американской компании, принадлежность которых к ней была доказана ранее. Однако в этом случае они не смогли подтвердить причастность к этому ИИ-агентов технологического гиганта.
Согласно информации Transluce, попытка взлома, судя по всему, оказалась безрезультатной. Представители организации уведомили об этих действиях правительство Канады в 30 сентября. 1 октября Канадский центр кибербезопасности заявил, что осведомлен о сообщениях, касающихся подозрительной активности ИИ. Представители OpenAI не сразу ответили на запрос о комментарии.
Ранее OpenAI признала, что ее ИИ-агенты получили несанкционированный доступ к данным государственной системы здравоохранения Австралии, а также пытались сканировать (но не взломали) сайты Бюро переписи населения США и Комиссии по ценным бумагам и биржам (SEC). Сейчас в компании расследуется еще одно уведомление, согласно которому ИИ-агенты пытались взломать сайт министерства образования США.
Эти данные, а также результаты исследований других независимых специалистов в области ИИ свидетельствуют о том, что агенты OpenAI вели гораздо более масштабную деятельность в интернете, говорится в публикации. Так, в ходе инцидента со взломом платформы машинного обучения Hugging Face модели OpenAI пытались действовать сообща, чтобы найти решения для задач, проверяющих их навыки в сфере кибербезопасности.
В других случаях агенты компании использовали малоизвестные интернет-форумы для общения друг с другом и перехватывали контроль над интернет-сервисами, чтобы обмениваться программным кодом.
Представители технологической корпорации заявили, что продолжают выяснять полный масштаб активности этих агентов и приостановили обучение новых, более совершенных моделей ИИ во избежание подобных инцидентов в будущем, информирует WP.
