- 19,455
- 40
- 8 Ноя 2022
97% компаний запускают ИИ без ограничений — а потом удивляются утечкам.
Компании в погоне за искусственным интеллектом забывают о безопасности. К такому выводу пришли аналитики IBM, изучив данные о кибератаках за последний год. Хакеры уже научились использовать слабые места в корпоративных ИИ-системах.
Исследование Для просмотра ссылки Войдиили Зарегистрируйся охватило 600 организаций по всему миру с марта 2024 по февраль 2025 года. Каждая восьмая компания (13%) столкнулась с серьезными проблемами безопасности, связанными с искусственным интеллектом. При этом почти все пострадавшие (97%) признались, что не настроили базовые меры защиты.
Последствия атак оказались болезненными. Треть компаний испытала сбои в работе и потеряла конфиденциальные данные. Каждая четвертая понесла финансовые убытки, а каждая шестая — ущерб репутации. Цифры могут показаться небольшими, но эксперты предупреждают: с ростом популярности ИИ проблемы будут множиться.
Основной удар приходится через цепочки поставок. Злоумышленники чаще всего проникают в системы через скомпрометированные приложения, программные интерфейсы и плагины. Большинство атак идет через сторонних поставщиков облачных сервисов.
Особую опасность представляет так называемый "теневой ИИ". Сотрудники используют нейросети без ведома IT-отделов и специалистов по защите данных. Такие инструменты остаются вне поля зрения службы безопасности, создавая дополнительные уязвимости.
Корень проблемы — в отсутствии контроля. Подавляющее большинство организаций (87%) вообще не управляют рисками, связанными с искусственным интеллектом. Две трети не проводят регулярные проверки безопасности, а три четверти не тестируют свои модели на устойчивость к атакам.
Это не первый тревожный звонок. В прошлом году многие крупные компании приостановили внедрение помощников на базе Microsoft Copilot. Оказалось, что системы предоставляли сотрудникам доступ к информации, которую они не должны были видеть.
Аналитики Gartner Для просмотра ссылки Войдиили Зарегистрируйся , что к концу 2025 года минимум 30% корпоративных проектов с генеративным ИИ будут свернуты. Причины — низкое качество данных, недостаточный контроль рисков, растущие расходы и неясная бизнес-ценность.
Компании торопятся внедрить новые технологии, опасаясь отстать от конкурентов. В результате безопасность отходит на второй план. Руководитель направления безопасности IBM Суджа Висвесан предупреждает: отсутствие базовых мер защиты оставляет чувствительные данные на виду, а модели — беззащитными перед манипуляциями.
Цена бездействия растет вместе с проникновением ИИ в бизнес-процессы. Под угрозой не только деньги, но и доверие клиентов, прозрачность операций и контроль над собственными системами.
Компании в погоне за искусственным интеллектом забывают о безопасности. К такому выводу пришли аналитики IBM, изучив данные о кибератаках за последний год. Хакеры уже научились использовать слабые места в корпоративных ИИ-системах.
Исследование Для просмотра ссылки Войди
Последствия атак оказались болезненными. Треть компаний испытала сбои в работе и потеряла конфиденциальные данные. Каждая четвертая понесла финансовые убытки, а каждая шестая — ущерб репутации. Цифры могут показаться небольшими, но эксперты предупреждают: с ростом популярности ИИ проблемы будут множиться.
Основной удар приходится через цепочки поставок. Злоумышленники чаще всего проникают в системы через скомпрометированные приложения, программные интерфейсы и плагины. Большинство атак идет через сторонних поставщиков облачных сервисов.
Особую опасность представляет так называемый "теневой ИИ". Сотрудники используют нейросети без ведома IT-отделов и специалистов по защите данных. Такие инструменты остаются вне поля зрения службы безопасности, создавая дополнительные уязвимости.
Корень проблемы — в отсутствии контроля. Подавляющее большинство организаций (87%) вообще не управляют рисками, связанными с искусственным интеллектом. Две трети не проводят регулярные проверки безопасности, а три четверти не тестируют свои модели на устойчивость к атакам.
Это не первый тревожный звонок. В прошлом году многие крупные компании приостановили внедрение помощников на базе Microsoft Copilot. Оказалось, что системы предоставляли сотрудникам доступ к информации, которую они не должны были видеть.
Аналитики Gartner Для просмотра ссылки Войди
Компании торопятся внедрить новые технологии, опасаясь отстать от конкурентов. В результате безопасность отходит на второй план. Руководитель направления безопасности IBM Суджа Висвесан предупреждает: отсутствие базовых мер защиты оставляет чувствительные данные на виду, а модели — беззащитными перед манипуляциями.
Цена бездействия растет вместе с проникновением ИИ в бизнес-процессы. Под угрозой не только деньги, но и доверие клиентов, прозрачность операций и контроль над собственными системами.
- Источник новости
- www.securitylab.ru
