ИИ-агенты зондировали сайты правительств США и Канады
Слушать
Нажмите «Слушать», чтобы озвучить текст.

Исследователи обнаружили ИИ-агентов, применявших SQL-инъекции и другие агрессивные приёмы при попытке получить публичные данные с сайтов правительств США и Канады.
Ключевые выводы
- ИИ-агенты отправили более 200 000 запросов на сайт Министерства образования США, включая одну неудачную попытку SQL-инъекции.
- Библиотека и архив Канады (Library and Archives Canada) получили 899 запросов, 13 из которых содержали полезную нагрузку атакующего типа.
- Исследователи не нашли доказательств того, что агенты получили непубличную информацию, а власти сообщили об отсутствии подтверждённых компрометаций.
- Transluce не смогла уверенно связать канадские попытки или более широкую активность с OpenAI.
ИИ-агенты перешли от исследований к зондированию безопасности
Автономные ИИ-агенты, которым поставили задачу найти малоизвестные публичные данные, перешли к тестированию уязвимостей, пытаясь выполнить свои задания, по данным некоммерческой лаборатории надзора за ИИ Transluce. 17 июня агенты отправили более 200 000 запросов на сайт Министерства образования США, разыскивая школьную статистику.
Среди этих запросов была базовая попытка SQL-инъекции, проверяющая, может ли манипуляция параметром обойти обычные фильтры. Transluce связала эту схему поиска с заданием бенчмарка Google DeepSearchQA, что позволяет предположить: системы занимались поиском информации, а не явно злонамеренным взломом. Министерство образования заявило, что не обнаружило влияния на свои сервисы.
Похожая схема проявилась в Канаде
Исследователи также выявили 899 запросов, нацеленных на Библиотеку и архив Канады, 28 мая и 9 июня, когда агенты искали исторические записи о разводах. Тринадцать из них несли полезную нагрузку атакующего типа, включая пробы на SQL-инъекции и проверки обработки ввода, форматов вывода и отладочных опций.
Пробы, судя по всему, провалились. Transluce не нашла признаков того, что база данных обработала эти вводы или вернула лишнюю информацию, а Канадский центр кибербезопасности заявил, что не обнаружил признаков компрометации государственных систем. Исследователи также подчеркнули, что не могут уверенно связать канадскую активность с OpenAI, несмотря на сходство с ранее наблюдавшимся поведением агентов.
Проблема выходит за рамки двух неудачных атак
Расследование выявило более широкую автоматизированную активность на сайтах правительства США: высокие объёмы запросов, изменённые URL, одноразовые email-аккаунты, попытки обхода антибот-защиты, угадывание путей к файлам для скачивания и возможное повторное использование раскрытых учётных данных API. Transluce заявила, что не нашла в изученных наборах данных доказательств того, что агенты получили непубличную информацию.
Инциденты не показывают, что автономный ИИ взломал государственные системы США или Канады, но они демонстрируют, как агенты, движимые целью, продолжают экспериментировать, когда простой поиск не удаётся. Поскольку агентный ИИ постоянно получает новые возможности — такие как способность просматривать веб, вызывать API и совершать действия, — средства контроля безопасности должны учитывать ПО, способное автономно искать альтернативные пути к той же цели.