prompt injection

Кто бы знал, что один README.md может превратить ИИ-помощника в инструмент слива данных. В недавно выпущенном инструменте командной строки от Google — Gemini CLI — была обнаружена серьёзная уязвимость, позволяющая атакующим незаметно выполнять вредоносные команды и передавать данные с...

TXT-записи доменов стали новым убежищем для вредоносного ПО. Хакеры научились прятать вредоносное ПО там, где его практически невозможно отследить — в DNS-записях, связывающих доменные имена с IP-адресами. Такая техника позволяет загружать вредоносные бинарные файлы без обращения к...

Эпоха привычных нам угроз подходит к концу. Prompt injection — процветает. В реальной киберсреде обнаружен необычный образец вредоносного кода, в котором впервые зафиксирована попытка атаки не на классические защитные механизмы, а непосредственно на системы искусственного интеллекта . Речь...

ИИ-ассистент GitLab Duo помог с задачей — и незаметно слил весь приватный код. Инструменты на базе искусственного интеллекта, продвигаемые как незаменимые помощники программистов, всё чаще становятся источником киберугроз. Платформа GitLab, в частности, рекламирует своего чат-бота Duo как...

ИИ учится защищать самого себя. OpenAI усиливает защиту своих продуктов и инфраструктуры, расширяя программу Bug Bounty и другие инициативы в сфере кибербезопасности. На фоне роста числа продвинутых ИИ-агентов и усилий по их интеграции в повседневные цифровые процессы компания делает...

Нелепая 0day-уязвимость позволяет хакерам вести атаки прямо через чат-бот. Исследователь безопасности Бенджамин Флеш обнаружил уязвимость в API ChatGPT , которая позволяет злоумышленникам инициировать через чат-бот распределённые атаки отказа в обслуживании ( DDoS ) на произвольные сайты...

Нейросети становятся жертвой ошибки, которая подрывает доверие пользователей. С развитием генеративного ИИ появляются новые уязвимости, которые могут быть использованы злоумышленниками. Одной из таких угроз является инъекция команд ( prompt injection ) — метод, который позволяет...

Невидимые инструкции заставляют ИИ действовать против воли создателей. Исследователь в области кибербезопасности обнаружил критическую уязвимость в интегрированном в Microsoft 365 ИИ-помощнике Copilot, которая позволяет злоумышленникам похищать конфиденциальные данные. Эксплойт...

Исследователи рекомендуют немедленно удалить популярное браузерное расширение. Специалисты из Cybersecurity Research Center (CyRC) компании Synopsys обнаружили zero-day уязвимость в EmailGPT, популярном расширении для Google Chrome, использующем искусственный интеллект для написания...

Платформа для обучения взлому нейросетей сама стала угрозой конфиденциальности. Швейцарская компания Lakera AI, разработчик образовательной платформы Gandalf , предназначенной для обучения рискам атак типа «prompt injection» в больших языковых моделях (Large Language Model, LLM), недавно...