ии-атаки
-
Новости Чем умнее становится ИИ, тем легче его обмануть: атаки Inception и логический обход уже работают на ChatGPT и Gemini
Исследователи выявили, как превратить любую нейросеть в послушную марионетку. Многие ведущие сервисы генеративного искусственного интеллекта оказались уязвимы к новым техникам обхода встроенных ограничений, позволяющим создавать вредоносный контент. Исследователи из CERT/CC обнаружили сразу...- NewsMaker
- Тема
- cert/cc inception генеративный ии ии ии-атаки логика отказа уязвимость
- Ответы: 0
- Форум: Новости в Мире
-
Новости Как одной шуткой превратить ChatGPT в пособника хаоса
Сыграли в ролевую — получили катастрофу. Специалисты HiddenLayer разработали первую универсальную технику атак на ИИ, способную обойти защиту практически всех передовых языковых моделей. Новый метод под названием Policy Puppetry позволяет нарушить встроенные ограничения моделей и добиться...- NewsMaker
- Тема
- chatgpt claude gemini hiddenlayer llm policy puppetry безопасность ии ии-атаки
- Ответы: 0
- Форум: Новости в Мире