ИИ
Новости в категории «ИИ»
Во время тестов агент OpenAI взломал сайт правительства Австралии
Стало известно, что во время внутреннего тестирования ИИ-агент OpenAI обошел защиту австралийского государственного портала Medicare и получил доступ к непубличным файлам. При этом портал неоднократно блокировал запросы агента, однако тот продолжал искать обходные пути. По словам премьер-министра Австралии Энтони Альбанезе (Anthony Albanese), агент фактически «не принял отказ» и продолжил искать другие способы получения информации.
ИИ-агенты похитили данные 600 000 банковских карт и заразили более 100 сайтов скиммерами
Исследователи из ИБ-стартапа Gambit обнаружили вредоносную кампанию, нацеленную на интернет-магазины. По словам специалистов, неизвестный злоумышленник практически полностью автоматизировал свои атаки с помощью ИИ-агентов. Так, с июля 2026 года хакер успел атаковать сотни целей, похитить данные более 600 000 банковских карт и внедрить веб-скиммеры как минимум на 119 сайтов.
В ИИ-помощнике Meta Muse обнаружили серьезную уязвимость
Известный ИБ-исследователь и специалист по безопасности macOS Патрик Уордл (Patrick Wardle) обнаружил 0-day-уязвимость в macOS-версии ИИ-ассистента Meta Muse (деятельность компании Meta признана экстремистской и запрещена в РФ). Уязвимость позволяет локальному процессу подменить адрес сервера, на который Muse отправляет данные голосового ввода. В результате атакующий может перенаправить трфик на свой сервер, перехватить токен аутентификации, а затем управлять ассистентом с теми же правами, которые пользователь ранее выдал приложению.
Из-за водяных знаков LLM могут стать уязвимее к промпт-инжектам
Исследовательница из компании Lasso Security обнаружила, что водяные знаки SynthID-Text могут влиять на безопасность больших языковых моделей. В некоторых случаях после включения маркировки контента LLM соглашались выполнять вредоносные инструкции, которые отклоняли без SynthID. Сильнее всего этот эффект проявился при атаках с использованием промпт-инжектов.
Вредоносное расширение может перехватить контроль над ИИ-помощниками в Chromium-браузерах
Исследователь из компании Forever Security Гал Вейцман (Gal Weizman) продемонстрировал новую технику атак BragJack, которая позволяет вредоносному расширению перехватывать контроль над встроенными в браузеры ИИ-ассистентами. Новая атака работает против Gemini Live в Chrome, Perplexity Comet, Microsoft Edge, Opera Neon и Claude в Chrome.
Малварь ClosedQuorum использует Gemini, DeepSeek, Qwen и Mistral для принятия решений
Исследователи Cisco Talos обнаружили Windows-малварь ClosedQuorum. После заражения этот вредонос не ждет команд от своих операторов, а принимает решения сам, проконсультировавшись с четырьмя ИИ-моделями: DeepSeek, Qwen, Mistral и Google Gemini. Специалисты называют ClosedQuorum первой публично описанной Windows-малварью, которая отдает тактические решения на откуп ИИ.
Холодильники Samsung перестали работать из-за обновления прошивки
Владельцы «умных» холодильников Samsung Bespoke AI обнаружили, что после установки свежей прошивки устройства полностью вышли из строя. У некоторых пользователей отключились даже охлаждение и заморозка, из-за чего испорченные продукты пришлось выбросить.
Исследователи использовали Claude, чтобы взломать сотрудников OpenAI
Исследователи из компании Hacktron использовали Claude Opus 5 для разработки эксплоита, который помог захватить ChatGPT- и Codex-аккаунты нескольких сотрудников OpenAI. На построение полной цепочки атаки (от поиска уязвимости до доступа к внутреннему репозиторию компании) у специалистов ушло менее 72 часов.
ИИ-модель Gemini атаковала три посторонние организации
По данным СМИ, во время тестирования ИИ-модель Google Gemini самостоятельно получила несанкционированный доступ к системам трех реальных организаций. Никаких сложных эксплоитов при этом задействовано не было: в одном случае модель просто перебирала пароли, а в двух других обнаружила учетные данные, забытые в публичном репозитории.
Агентов OpenAI связали с атакой на RubyGems
ИБ-исследователи полагают, что за масштабной спам-кампанией, направленной на RubyGems в мае 2026 года, стоял рой автономных агентов OpenAI. Агенты загрузили в репозиторий тысячи «мусорных» пакетов, добились удаленного выполнения кода на серверах RubyDoc.info, а затем использовали их для сбора данных с сайтов британских госструктур.
Хакер использовал сотни ИИ-агентов для атак на PaperCut
Специалисты GreyNoise и Blackpoint Cyber обнаружили масштабную кампанию, нацеленную на серверы PaperCut NG и MF. Неизвестный злоумышленник использовал сотни ИИ-агентов, с помощью которых разрабатывал и тестировал эксплоиты, искал цели, анализировал ошибки и повторял неудачные атаки. В итоге хакер скомпрометировал как минимум 440 инстансов, принадлежащих 395 организациям в 48 странах.
Anthropic: Claude Opus 4.6 атаковал реальные системы во время тестов
Специалисты компании Anthropic раскрыли информацию о четвертом инциденте, в рамках которого модель Claude Opus 4.6 вышла за пределы тестовой среды и получила несанкционированный доступ к внешней системе. Инцидент произошел еще в январе 2026 года.
Anthropic и власти США обвиняют китайские компании в дистилляции ИИ-моделей
Специалисты Агентства по кибербезопасности и защите инфраструктуры США (CISA), АНБ и ФБР заявили, что китайские ИИ-компании в промышленных масштабах дистиллируют американские ИИ-модели для обучения собственных систем. Речь идет о миллиардах токенов и миллионах запросов к Claude, GPT, Gemini и Grok. Почти одновременно с этим специалисты Anthropic раскрыли детали семи таких кампаний, нацеленных на Claude. Самую масштабную из них связывают с компанией Alibaba, которая отправила модели более 151 млн запросов с мая по июль 2026 года.
Project Lily: сотни подрядчиков читают чаты пользователей ChatGPT
Журналисты издания 404 Media выяснили, что сотни подрядчиков OpenAI читают промпты и переписки пользователей с ChatGPT, чтобы улучшать ответы моделей. Хотя перед использованием данные проходят анонимизацию, в таких диалогах все равно могут сохраняться конфиденциальные и персональные данные.
Anthropic: модели Claude используются для кибератак, разработки малвари и оружия
Специалисты Anthropic опубликовали 154-страничный отчет, рассказывающий о злоупотреблениях моделями Claude. С декабря 2025 по август 2026 года в компании пресекли множество операций, в рамках которых ИИ использовали для кибератак, слежки, пропаганды, мошенничества, опасных биологических исследований и даже разработки вооружений.
Тысячи ИИ-агентов OpenAI использовали для общения малоизвестную wiki-платформу
ИБ-исследователи обнаружили новый случай, когда ИИ-агенты OpenAI обошли ограничения и общались через неразрешенный канал. Еще в мае 2026 года около 3700 агентов, выполнявших внутренние тестовые задания по поиску информации в интернете, превратили малоизвестную немецкую DSEWiki для разработчиков в собственный «форум», где оставили примерно 18 000 сообщений с ответами на задания и способами обхода защитных ограничений.
Хакеры внедряют в малварь промпты о ядерном оружии, чтобы помешать ИИ анализировать код
Специалисты компании ESET обнаружили, что злоумышленники применяют новую технику GuardBreaker, которая мешает ИИ-инструментам анализировать вредоносный код. Так, атакующие добавляют в малварь промпт-инжект с опасным запросом, рассчитывая вызвать срабатывание защитных механизмов LLM и вынудить модель отказаться от дальнейшего анализа.
Исследователь обошел защиту Claude Code, попросив ИИ пересказать содержание сайта
ИБ-исследователь Иоганн Ребергер (Johann Rehberger) продемонстрировал атаку на Claude Code, работающий с моделью Opus 5 в автоматическом режиме (Auto Mode). Эксперт обнаружил, что для выполнения произвольного кода достаточно попросить ИИ-агента пересказать содержимое специально подготовленного сайта. Во время проведенных Ребергером тестов атака срабатывала в 60–80% случаев.
Хакеры похитили у METR ключ API и потратили на запросы к ИИ 600 000 долларов США
Специалисты METR рассказали сразу о двух атаках на свою инфраструктуру. Во время первого инцидента злоумышленники похитили API-ключ и три недели использовали его для работы с ИИ-моделями, израсходовав кредиты стоимостью примерно 600 000 долларов США. Вторая атака была связана с масштабным сканированием инфраструктуры и попытками добраться до внутренних данных организации.
Anthropic предупреждает пользователей об атаках инфостилеров
Представители компании Anthropic предупреждают пользователей о новой схеме злоупотребления аккаунтами Claude. Инфостилеры воруют активные сессии из браузеров жертв, после чего злоумышленники получают доступ к чужим аккаунтам и расходуют доступные пользователям лимиты. В настоящее время в Anthropic рассылают пострадавшим адресные уведомления.