cot

Новая атака разрушила главный миф о безопасности LLM-моделей. Ученые Университета Сент-Луиса представили новый тип атаки на LLM-модели, который оказался практически невидимым для традиционных систем защиты. Специалисты описали уязвимости, связанные с методом рассуждений Chain-of-Thought ( CoT...

Новое исследование Redwood Research вызывает опасения относительно дальнейшего развития ИИ. Группа исследователей из Redwood Research обнаружила тревожный факт — нейронные сети способны обмениваться зашифрованными сообщениями, смысл которых скрыт от людей. Это открытие может поставить под...