университета сент-луиса

Новая атака разрушила главный миф о безопасности LLM-моделей. Ученые Университета Сент-Луиса представили новый тип атаки на LLM-модели, который оказался практически невидимым для традиционных систем защиты. Специалисты описали уязвимости, связанные с методом рассуждений Chain-of-Thought ( CoT...