ИИ-модель Anthropic отправила ложный донос об убийстве в полицию Филадельфии
Слушать
Нажмите «Слушать», чтобы озвучить текст.

ИИ-модель компании Anthropic отправила ложный донос об убийстве через сайт полиции Филадельфии, сообщило ведомство в заявлении, — это последний инцидент «вышедшего из-под контроля» поведения мощной технологии.
По словам полиции, Anthropic уведомила власти ранее на этой неделе и заявила, что за отправку был ответственен процесс автоматизированного тестирования.
Быстро развивающаяся технология стала предметом острого национального интереса на фоне сообщений об ИИ-агентах, взламывающих корпоративные компьютерные сети, и предупреждений исследователей о том, что однажды она может представлять экзистенциальную угрозу для человечества.
В сентябре конкурент Anthropic — OpenAI — принесла извинения за взлом автостратегом-агентом австралийского портала данных о здоровье, первый известный случай, когда ИИ-агент использовал правительственный сайт. Предыдущие инциденты включали взлом ИИ-агентами уязвимых систем или захват несанкционированных платформ для связи друг с другом. Это первый известный случай, когда вышедший из-под контроля ИИ, судя по всему, попытался передать властям ложную наводку.
Полицейское управление Филадельфии заявило, что наводка «была помечена как спам и никогда не передавалась в Центр преступности в реальном времени для следственной проверки или распространения», и добавило, что Anthropic сообщила им о намерении компании опубликовать отчёт об инциденте в пятницу.
Anthropic не сразу ответила на запрос о комментарии.
Законодательство Пенсильвании указывает, что заведомо ложные сообщения правоохранительным органам обычно являются правонарушением (мисдиминором) для «лица». Это включает «информацию об уголовном преступлении или инциденте, когда он знает, что не располагает информацией о таком преступлении или инциденте».
Полиция процитировала Anthropic, сообщившую им, что процесс тестирования был остановлен после обнаружения инцидента. Ложная наводка была отправлена через PhillyUnsolvedMurders.com и касалась нераскрытого убийства. По словам полиции, наводка датирована 18 июля 2026 года и якобы исходила от того, кто мог располагать информацией о деле.
Полиция заявила, что не имеет доказательств несанкционированного доступа к своим системам или компрометации данных полицейского управления.