ИИ
Новости в категории «ИИ»
Взлом OpenCode привел к утечке ключей API и несанкционированным списаниям
Разработчики опенсорсного ИИ-инструмента OpenCode сообщили об инциденте, из-за которого произошла утечка API-ключей OpenAI, Anthropic и Google. По предварительным подсчетам, проблема затронула 1,4% пользователей OpenCode Console, но некоторые пострадавшие уже сообщают о несанкционированных списаниях на сотни и даже тысячи долларов США.
СМИ: в Минцифры предлагали использовать ИИ для выявления VPN
Как сообщает «Коммерсант», в Минцифры обсуждали возможность применения искусственного интеллекта для обнаружения и блокировки VPN-сервисов. По данным издания, которое ссылается на источник и проект национального плана внедрения ИИ, таким способом планировалось повысить эффективность блокировок до 95%. Однако в ведомстве заявили, что в актуальной версии документа такой инициативы нет.
Модели OpenAI взломали несколько сайтов и потратили криптовалюту из чужого кошелька
Представители OpenAI рассказали о новых случаях необычного поведения экспериментальных ИИ-моделей компании. Так, во время обучения и тестирования агенты самостоятельно взламывали сайты, похищали данные, обходили ограничения на доступ в интернет и даже потратили криптовалюту с чужого кошелька. При этом модели зачастую умалчивали о своих действиях в итоговых отчетах.
В Android появится ИИ-защита от мошеннических звонков
В Google анонсировали новые защитные механизмы Android, которые должны уберечь пользователей от мошеннических сообщений, фальшивых звонков из банков и злоупотреблений переадресацией вызовов. Для обнаружения угроз будут использоваться облачная модель Gemini и локальная модель Gemini Nano. Новые функции постепенно появятся на поддерживаемых Android-устройствах.
ИИ-инструмент для пентестов ARTEX использовался в атаках на банки Южной Кореи
Специалисты CrowdStrike рассказали о серии атак на финансовые организации в Южной Корее, в рамках которых злоумышленник применял опенсорсный ИИ-инструмент ARTEX и агентов Claude Code. В результате произошли утечки персональных данных клиентов пострадавших организаций, а некоторые банки столкнулись со сбоями в работе.
Музыкант получил 18 месяцев тюрьмы за мошенничество с ИИ-ботами
54-летнего музыканта из Северной Каролины Майкла Смита (Michael Smith) приговорили к 18 месяцам тюремного заключения из-за участия в мошеннической схеме, связанной с ИИ-музыкой и ботами. С 2017 по 2024 год он использовал сгенерированную ИИ музыку и ботов для накрутки прослушиваний в Spotify, Apple Music, Amazon Music и YouTube Music, в итоге набрав миллиарды прослушиваний и получив миллионы долларов роялти.
ИИ-модель Anthropic сообщила полиции ложную информацию об убийстве
Во время внутреннего тестирования ИИ-модель Claude Haiku 4.5 отправила полиции Филадельфии ложную информацию по делу о нераскрытом убийстве. Специалисты Anthropic узнали об этом инциденте лишь спустя два месяца и дополнительно выяснили, что ИИ также отправлял заявки на получение виз через сайт Госдепартамента США.
В Anthropic предупредили, что ИИ-модели смогут воспроизводить себя, заражая IoT-девайсы
Специалисты компании Anthropic предупреждают, что уже в ближайшие месяцы небольшие ИИ-модели могут научиться самостоятельно распространяться на IoT-устройства, формируя ботнеты без централизованного управления. По мнению исследователей, такие ИИ-черви смогут использовать вычислительные мощности зараженных девайсов для работы и дальнейшего распространения.
ИИ-поисковик TorrentClaw проверяет содержимое раздач на подделки и малварь
Разработчики торрент-поисковика TorrentClaw, созданного преимущественно с помощью ИИ, представили систему TrueSpec, которая проверяет содержимое раздач и выявляет поддельные файлы и малварь. В частности, авторы заявляют, что инструмент уже помог выявить десятки торрентов, в которых злоумышленники использовали легитимный VLC для загрузки вредоносной DLL.
Арестован инженер OpenAI, разместивший жучок в офисе компании
В США арестовали 35-летнего инженера компании OpenAI Абдулрахмана Альфозана (Abdulrahman Alfozan), которого подозревают в установке скрытого записывающего устройства в переговорной комнате руководства компании. По версии следствия, мужчина установил скрытое записывающее устройство в переговорной комнате, предварительно завернув его в туалетную бумагу. При этом для подготовки своей шпионской активности он, предположительно, использовал ИИ.
OpenAI предупредила более 100 организаций о подозрительной активности своих моделей
Представители OpenAI сообщили, что уведомили более ста организаций о потенциально опасной активности ИИ-моделей, поведение которых отклонялось от заданных ограничений. При этом в компании подчеркивают: такие уведомления не означают, что модели обязательно получили доступ к конфиденциальным данным или скомпрометировали сторонние системы.
Малварь PoeLLM заражает ИИ-сервисы майнером криптовалюты
Специалисты Lumen Black Lotus Labs обнаружили малварь PoeLLM, которая атакует доступные через интернет ИИ-сервисы и другую серверную инфраструктуру. На зараженные машины вредонос устанавливает майнеры и некоторые системы превращает в сканеры, чтобы использовать их для новых атак. С апреля 2026 года операторы этой малвари скомпрометировали более 3400 серверов, в основном в США и странах Западной Европы.
Anthropic просит пользователей Claude делиться голосовыми данными для обучения ИИ
В компании Anthropic начали предлагать пользователям Claude добровольно передавать записи своих голосовых разговоров для обучения и улучшения ИИ-моделей. При этом разрешение на использование голосовых данных настраивается отдельно от передачи обычных чатов и сессий Claude Code для обучения моделей.
Google частично приостанавливает работу опенсорсной программы bug bounty из-за ИИ-слопа
Компания Google временно не принимает отчеты об уязвимостях через программу Open Source Software Vulnerability Rewards Program (OSS VRP). Причиной для этой паузы послужил резкий рост числа автоматизированных отчетов, созданных с помощью ИИ. Причем подавляющее большинство из них описывало баги, которых на самом деле не существовало.
Apple ограничит полный доступ к диску в macOS из-за ИИ-агентов
Инженеры компании Apple планируют изменить механизм работы Full Disk Access (FDA) в macOS, чтобы приложения не могли получать доступ к файлам, почте, сообщениям и истории браузера без явного согласия пользователя. В компании объяснили, что проблема стала особенно острой с распространением автономных ИИ-агентов.
Агенты OpenAI вносили правки в проекты Wikimedia и могли спровоцировать сбой
Представители Wikimedia Foundation сообщили, что ИИ-агенты компании OpenAI без разрешения редактировали вики-проекты, пытались скомпрометировать публичный Etherpad и создавали серьезную нагрузку на инфраструктуру проекта. По данным фонда, агенты пытались использовать сервисы Wikimedia как прокси для получения данных со сторонних сайтов.
В OpenAI заявляют, что прервали кампанию по дистилляции, связанную с Moonshot AI
Представители OpenAI сообщили, что заблокировали масштабную кампанию по дистилляции, участники которой пытались извлекать защищенные рассуждения ИИ-моделей. Основной кластер этой активности в компании связывают с людьми, имеющими отношение к разработчику Kimi — китайской компании Moonshot AI.
В GitLab AI Gateway исправили критический баг на 9,9 балла
Разработчики GitLab выпустили патчи для критической уязвимости CVE-2026-90970, затрагивающей AI Gateway. Баг получил 9,9 балла по шкале CVSS и позволяет аутентифицированному атакующему при определенных условиях выполнять произвольные команды на сервере. Проблема касается только организаций, которые самостоятельно хостят AI Gateway.
Ботнет Carbonato использует ИИ для захвата незащищенных Docker-хостов
Специалисты ThreatDown изучили новый ботнет Carbonato, который взламывает плохо защищенные Docker-хосты. Целью становятся системы, где API доступен без аутентификации через порт 2375. После захвата машины малварь устанавливает в систему Hermes Agent — опенсорсный фреймворк для ИИ-агентов — и разворачивает в нем агента GH0ST, которым операторы управляют через Telegram.
Агенты OpenAI загружали пользовательские изображения на сторонние сайты
Представители OpenAI раскрыли еще один инцидент, связанный с ИИ-агентами компании: в 53 случаях они загрузили предоставленные пользователями изображения на сторонние сервисы для хостинга картинок. В компании подчеркнули, что подавляющее большинство пользователей эта проблема не затронула.