hiddenlayer

TokenBreak — атака, которая превращает каждое слово в троян для искусственного интеллекта. Исследователи из компании HiddenLayer представили новую атаку на языковые модели, которая способна обходить встроенные системы модерации и фильтрации всего с помощью одного символа. Приём получил...

Сыграли в ролевую — получили катастрофу. Специалисты HiddenLayer разработали первую универсальную технику атак на ИИ, способную обойти защиту практически всех передовых языковых моделей. Новый метод под названием Policy Puppetry позволяет нарушить встроенные ограничения моделей и добиться...

Вычислительные графы скрывают такие угрозы, о которых вы даже не подозревали. На днях команда исследователей HiddenLayer представила технику «ShadowLogic», позволяющую внедрять скрытые закладки в модели машинного обучения. Этот метод, не требующий добавления кода, основывается на...

Уязвимость затрагивает тысячи организаций, использующих данный язык в своём ПО. В языке программирования R обнаружена критическая уязвимость , которая может подвергнуть организации, использующие этот популярный открытый язык, атакам через цепочку поставок программного обеспечения...

Исследователи выявили фатальные изъяны в защите, позволяющие злоупотреблять возможностями популярного ИИ-решения. В недавнем отчёте компании HiddenLayer исследователи выявили ряд уязвимостей в крупной языковой модели Gemini от Google . Эти уязвимости представляют вполне реальную угрозу...

Уязвимость в Safetensors становится причиной компрометации цепочек поставок. ИБ-компания HiddenLayer выявила уязвимость в сервисе конвертации Safetensors от Hugging Face , которая позволяет злоумышленнику перехватывать ИИ-модели, загруженные пользователями, и скомпрометировать цепочку...

Откуда ИБ-специалистам ждать удара и как подготовиться к изощрённым методам злоумышленников? Аналитическая компания Forrester опубликовала отчёт о самых опасных киберугрозах в 2023 году. Среди них — использование искусственного интеллекта для атак на данные и алгоритмы, уязвимость облачных...