llm

Сыграли в ролевую — получили катастрофу. Специалисты HiddenLayer разработали первую универсальную технику атак на ИИ, способную обойти защиту практически всех передовых языковых моделей. Новый метод под названием Policy Puppetry позволяет нарушить встроенные ограничения моделей и добиться...

Один неожиданный ход обещает очистить веб от лишнего шума. Компания Brave представила новый инструмент под названием Cookiecrumbler, направленный на борьбу с навязчивыми уведомлениями о согласии на использование файлов cookie. Его особенностью стало применение больших языковых моделей (LLM)...

Модели учатся понимать зашифрованные данные. Большие языковые модели (LLM) — основа многих современных цифровых сервисов. Они отвечают на вопросы в чатах, помогают писать код и анализируют тексты. Но есть одна большая проблема: почти все такие модели работают в облаке, то есть данные...

Раскрыта ещё одна неприятная уязвимость современных LLM. Исследователи из команды Cato CTRL обнаружили неожиданную уязвимость в работе современных языковых моделей. Им удалось обойти защитные механизмы нескольких популярных чат-ботов, включая ChatGPT-4, DeepSeek-R1, DeepSeek-V3 и...

Способность машин рассуждать переводит дискуссию из теоретической плоскости в область реальных рисков. Развитие искусственного интеллекта стремительно приближается к новому этапу — созданию мощных систем, способных к осмысленному решению задач, выходящему за рамки статистического...

Найден способ внедриться в «мозги» ИИ без взлома. Ученые из США и Сингапура разработали новый способ манипуляции памятью LLM-моделей, который позволяет злоумышленникам незаметно вмешиваться в работу ИИ. Новый метод MINJA (Memory INJection Attack) может изменять поведение ИИ-агентов без...

Что скрывают крупнейшие архивы данных, используемые для обучения нейросетей? Исследователи обнаружили, что в наборах данных, используемых для обучения больших языковых моделей (LLM), содержится почти 12 000 активных учётных данных, позволяющих успешно проходить аутентификацию. Этот факт в...

Хакеры развивают способы зарабатывать на чужих ресурсах. Атаки на LLM -модели продолжают набирать обороты, адаптируясь к новым возможностям генеративного ИИ. Специалисты Sysdig сообщили о стремительном развитии техники LLMjacking — злоумышленники воруют учётные данные облачных сервисов...

Сегодня нейросети выбирают Байдена, но это легко исправить… Сотрудник компании xAI придумал, как измерять и менять моральные установки искусственного интеллекта — от этических принципов до политической позиции. Автор метода — Дэн Хендрикс, который возглавляет некоммерческий Центр безопасности...

Почему ChatGPT не может понять простых фраз и как это исправить. Современные системы искусственного интеллекта не понимают смысл слов и часто выдумывают несуществующие факты. Учёные из лаборатории искусственного интеллекта Брюссельского свободного университета предложили радикальное решение...

Разработчики не предусмотрели, насколько легко обойти выставленные ими ограничения. Исследователи Palo Alto Networks из команды Unit 42 выявили уязвимости в языковой модели DeepSeek, которые позволяют обойти её защитные механизмы и заставить выдавать запрещённый контент. Используя три...

Фальшивые резюме, ядерные секреты… На что способен ИИ под руководством спецслужб? Исследователи Google Threat Intelligence Group (GTIG) отмечают: хакерские группировки все чаще прибегают к помощи искусственного интеллекта, чтобы прокачать свои схемы и добиться лучших результатов. Однако, как...

Китайский ИИ с открытым кодом постепенно начал менять реальность. Приложение DeepSeek, созданное менее двух лет назад при поддержке китайского правительства, стремительно взлетело на вершину рейтинга бесплатных приложений App Store. В то же время интернет захлестнули жаркие споры о будущем...

Трамп считает, что успех стартапа из Поднебесной должен отрезвить компании в США. Выход новой китайской ИИ-модели DeepSeek заставил содрогнуться мировые рынки. По словам президента США Дональда Трампа , успех компании должен стать “сигналом к пробуждению” для американской технологической...

Что скрывается за процессами, которые на первый взгляд кажутся безобидными? В фреймворке LLM -модели Llama от компании Meta * недавно была обнаружена критическая уязвимость , позволяющая злоумышленникам выполнять произвольный код на сервере llama-stack inference. Уязвимость получила...

OpenAI, Claude и Google снова кусают локти. Материнская компания TikTok ByteDance создала новую ИИ-модель UI-TARS , которая умеет самостоятельно пользоваться компьютером и справляться со сложными задачами. Разработчики выпустили две версии системы - с 7 и 72 миллиардами параметров, обучив...

ИИ провалил экзамен по истории. Ученые провели уникальное исследование о том, как искусственный интеллект справляется с историческими науками. В ходе работы они опирались на базу данных Seshat Global History Databank , которую команда руководителя, Питера Турчина, собирала больше десяти...

Китайская ИИ-модель превзошла человека, но очень боится политики. Компания DeepSeek выпустила новую языковую модель с открытым исходным кодом. По результатам тестирования, она не только сравнялась с лучшими решениями OpenAI, но и превзошла существующие модели от Anthropic в математических...

Машины выходят вперёд, оставляя ручное программирование далеко позади. Google активно использует свои собственные инструменты на базе искусственного интеллекта для модернизации внутренних кодовых баз. В недавней научной статье специалисты компании описали, как крупные языковые модели ( LLM )...

Новый мозг для машин увеличивает количество вычислений, уменьшая затраты. Google разработал новую архитектуру нейронных сетей под названием Titans, которая может решить проблему с памятью в LLM -моделях. Теперь модели смогут обрабатывать больше данных за один раз, не увеличивая затраты...

Оракул MIT делится своими надеждами и опасениями. MIT опубликовал ежегодный прогноз развития искусственного интеллекта. За последние два года аналитики журнала точно предсказали появление интерактивных помощников на основе мультимодальных языковых моделей, стремительное развитие генерации...

CDAO завершило тестирование чат-ботов для военной медицины. Пилотная программа Пентагона обнаружила свыше 800 потенциальных уязвимостей и предвзятостей в применении больших языковых моделей ( LLM ) для военной медицины, сообщили в Министерстве обороны США. Исследование проводилось...

Новое расследование раскрывает главный недостаток ИИ-поисковиков. Журналисты The Guardian провели расследование, которое вскрыло серьезные уязвимости нового поискового инструмента ChatGPT . Выяснилось, что результатами поиска легко манипулировать, а еще с помощью системы можно...

Нулевое детектирование на VirusTotal подчёркивает масштаб угрозы. Исследователи Palo Alto Networks обнаружили, что крупные языковые модели ( LLM ) могут быть легко использованы для создания новых вариаций вредоносного JavaScript -кода, способного обходить средства обнаружения. Как...

«Белые страницы» мастерски обходят умные алгоритмы Google. Согласно новому отчёту компании Malwarebytes , киберпреступники активно используют возможности искусственного интеллекта (ИИ) и крупных языковых моделей ( LLM ) для создания новых схем обмана, которые способны обходить большинство...