echo chamber

Новая методика превращает каждую беседу в скрытую манипуляцию, заставляющую ИИ обходить собственные запреты. Специалисты NeuralTrust представили методику, позволяющую значительно усилить атаки на языковые модели с помощью объединения двух ранее известных техник — Echo Chamber и Crescendo...

Теперь чат-ботов можно легко развести на ненависть, насилие и прочие радости жизни. Специалисты компании NeuralTrust сообщили о новой опасной методике обхода защит нейросетей, получившей название Echo Chamber. Этот способ позволяет незаметно склонять крупные языковые модели (LLM), такие...