llm

Кремниевая долина в панике — её цифровые создания сдаются врагу без боя. Base44, популярная платформа для создания приложений с помощью ИИ, оказалась уязвимой из-за грубой ошибки в настройке системы аутентификации. Проблема заключалась в том, что злоумышленник мог получить полный доступ к...

Вебинар пройдёт 31 июля в 11:00. Генеративный ИИ и большие языковые модели (LLM) — это уже не технология будущего, а рабочий инструмент, меняющий бизнес-процессы. LLM пишут код, анализируют уязвимости и обрабатывают терабайты данных и чем больше отраслей, куда проникает технология - тем...

HackerOne и Bugcrowd превратились в терминалы бреда и абсурда. В последние годы интернет оказался буквально затоплен малополезным, а порой и вовсе вымышленным контентом, сгенерированным языковыми моделями. Речь идёт не только о низкокачественных текстах, изображениях и видео, но и об имитации...

ИИ — не рациональный гений, а тревожный подросток. Новая работа специалистов из Google DeepMind и University College London проливает свет на любопытную особенность LLM-моделей: они склонны терять уверенность в собственных, даже правильных, ответах под давлением внешнего несогласия. Несмотря...

Новая методика превращает каждую беседу в скрытую манипуляцию, заставляющую ИИ обходить собственные запреты. Специалисты NeuralTrust представили методику, позволяющую значительно усилить атаки на языковые модели с помощью объединения двух ранее известных техник — Echo Chamber и Crescendo...

Вебинар 9 июля в 11:00 — что делают LLM с вашими данными и как избежать утечек. Большие языковые модели уже помогают автоматизировать рутину, ускорять аналитику и расширять возможности сотрудников. Но вместе с пользой они приносят новые риски — от утечек конфиденциальных данных до проблем с...

Компания наконец решит проблему ChatGPT, которая бесила всех. OpenAI планирует объединить свои модели и представить GPT-5 уже этим летом. Компания официально подтвердила, что следующим шагом станет не просто выпуск нового крупного языкового ИИ, но и полное объединение двух ключевых линеек...

ИИ знает всё… если не спрашивать «зачем». Исследователи из Массачусетского технологического института, Гарвардского университета и Чикагского университета предложили новый термин, чтобы описать один из скрытых и малоизученных недостатков современных языковых моделей искусственного интеллекта...

Эксперимент показал: предрассудки побеждают факты даже в момент слабости. Люди склонны проявлять больше сочувствия к чат-ботам, если считают их настоящими собеседниками. К такому выводу пришли учёные из Иерусалимского университета после серии масштабных исследований, опубликованных в журнале...

В ответах моделей стало подозрительно много пропаганды… Популярные чат-боты и языковые модели, которые миллионы людей используют для учёбы, работы или повседневного поиска информации, могут вовсе не быть такими нейтральными, как принято считать. Недавнее исследование показало: даже те...

Теперь чат-ботов можно легко развести на ненависть, насилие и прочие радости жизни. Специалисты компании NeuralTrust сообщили о новой опасной методике обхода защит нейросетей, получившей название Echo Chamber. Этот способ позволяет незаметно склонять крупные языковые модели (LLM), такие...

Пока конкуренты задыхались от объёма, модель M1 развернула миллион токенов и даже не вспотела. Китайская компания MiniMax из Шанхая громко заявила о себе , выпустив новую языковую модель MiniMax-M1 с открытым исходным кодом. И не просто открытым, как у многих других — модель...

Языковые модели строят из себя экспертов. Пока не задашь вопрос, который требует мозгов. Когда разговор заходит о различиях между научной фантастикой и фэнтези, среди технически подкованных людей начинается настоящая словесная дуэль — вежливая, но бесконечная. У каждого свой взгляд...

Данные ушли не потому, что кто-то кликнул, а потому, что кто-то спросил. Исследователями впервые зафиксирована уязвимость нулевого взаимодействия ( Zero-click ), связанная с искусственным интеллектом, способная привести к утечке конфиденциальной информации из Microsoft 365 Copilot...

Разница между симуляцией и реальным мышлением оказалась болезненно очевидной. Если кто-то всерьёз рассчитывает на появление сильного искусственного интеллекта ( AGI ) уже в следующем году, возможно, стоит умерить свои ожидания . Новое исследование , проведённое сотрудниками Apple...

Китайский ИИ, который думал как Gemini, но притворялся ChatGPT. На прошлой неделе китайская лаборатория DeepSeek представила новую версию своего ИИ-моделя R1, получившую индекс R1-0528. Обновлённая система продемонстрировала впечатляющие результаты на математических и программных тестах...

На форумах об ИИ начали банить одержимых «пробуждением бога». Модераторы Reddit-сообщества r/accelerate, поддерживающего развитие искусственного интеллекта и идеи технологической сингулярности, сообщили о волне банов пользователей, которые начали проявлять признаки тяжёлых заблуждений и мании...

История о том, как нейросеть притворялась человеком… и ей понравилось. Исследование Гарвардского университета выявило неожиданный эффект: крупная языковая модель GPT-4o меняет своё отношение к Владимиру Путину в зависимости от того, какую позицию ей предлагают занять — за или против. Причём...

Добро пожаловать в эру, где ИИ не исполняет приказы, а устанавливает правила. Искусственный интеллект, долгое время воспринимавшийся как бездушный инструмент, начинает напоминать нечто гораздо более живое и социальное. Новое исследование , проведённое специалистами из City, St George’s...

Одни ликуют, другие кусают локти — и вот почему. Платформа Cursor, популярная среди разработчиков благодаря поддержке продвинутых языковых моделей и упрощённому взаимодействию с кодом, неожиданно объявила о бесплатной годовой подписке для студентов. Предложение стало особенно актуальным на...

Машина пишет идеально, но читателю скучно — и это её провал. Весенняя экзаменационная пора в американских учебных заведениях проходит в атмосфере повышенной бдительности: преподаватели внимательно следят за тем, чтобы студенты не использовали нейросети для написания работ. Однако свежее...

2 месяца любой мог взломать ИИ и внедрить вредоносный код. Сотрудник компании xAI случайно опубликовал на GitHub закрытый API-ключ, который в течение двух месяцев позволял получить доступ ко внутренним языковым моделям, обученным на данных из SpaceX, Tesla и X (Twitter)*. Утечку обнаружил и...

Чем умнее ИИ, тем легче ему подсунуть вам вирус. ИИ может сгенерировать код, но не всегда — безопасный. Новое исследование , которое будет представлено на конференции USENIX Security Symposium в 2025 году, показало, что LLM-модели, создавая программный код, часто выдумывают зависимости от...

Оказалось, что даже самые умные алгоритмы не умеют думать по-настоящему. Современные модели искусственного интеллекта, способные к так называемому «смоделированному рассуждению» (Simulated Reasoning, SR), демонстрируют любопытный парадокс. Они справляются с рутинными математическими задачами...

Сыграли в ролевую — получили катастрофу. Специалисты HiddenLayer разработали первую универсальную технику атак на ИИ, способную обойти защиту практически всех передовых языковых моделей. Новый метод под названием Policy Puppetry позволяет нарушить встроенные ограничения моделей и добиться...