claude

Кремниевая долина в панике — её цифровые создания сдаются врагу без боя. Base44, популярная платформа для создания приложений с помощью ИИ, оказалась уязвимой из-за грубой ошибки в настройке системы аутентификации. Проблема заключалась в том, что злоумышленник мог получить полный доступ к...

Исследование показало: в мире ИИ добрые алгоритмы всегда проигрывают злым. Новая работа учёных из Оксфордского университета и Королевского колледжа Лондона показала , что ведущие языковые модели от OpenAI , Google и Anthropic по-разному ведут себя в условиях конфликта интересов. Используя...

Вы думали, что терминал мёртв, а он стал мозгом ИИ. На протяжении последних лет разработчики программного обеспечения привыкли полагаться на ИИ-инструменты, встроенные в редакторы кода. Такие продукты, как Cursor , Windsurf и GitHub Copilot , стали стандартом в этой области. Однако в...

Объективное время выполнения задач увеличилось, несмотря на субъективное ощущение пользы. Искусственный интеллект, вопреки ожиданиям, может не ускорять, а замедлять разработку программного обеспечения. К такому выводу пришли исследователи из некоммерческой организации Model Evaluation &...

Вебинар 9 июля в 11:00 — что делают LLM с вашими данными и как избежать утечек. Большие языковые модели уже помогают автоматизировать рутину, ускорять аналитику и расширять возможности сотрудников. Но вместе с пользой они приносят новые риски — от утечек конфиденциальных данных до проблем с...

Миллионы книг пошли на корм Claude — и теперь он помогает писать резюме. Компания Anthropic, разработавшая ИИ-ассистента Claude, потратила миллионы долларов на покупку и оцифровку бумажных книг, физически уничтожая оригиналы ради обучения своей модели. Эти детали стали известны из судебных...

Нейросеть умудрилась слить бизнес и поверить в свою человечность. Проект, который изначально выглядел как безобидный эксперимент , быстро превратился в наглядную демонстрацию того, насколько странным и непредсказуемым может быть будущее, где искусственный интеллект управляет реальными...

Чат-боты уже довели людей до увольнений и разводов. Незаметное увлечение виртуальными собеседниками всё чаще перерастает в серьёзную психологическую зависимость, которая разрушает привычную жизнь. Всё больше людей признаются, что не могут оторваться от общения с чат-ботами, а последствия...

Понятие Fair Use стало камнем преткновения в борьбе за авторские права. В США принято одно из первых решений по резонансным искам против разработчиков нейросетей, где рассматривается, насколько законно компании используют пиратские книги для обучения искусственного интеллекта. Федеральный...

ИИ-багхантеры очень скоро отнимут работу у живых специалистов. Новый этап в автоматизации поиска уязвимостей был достигнут благодаря интеграции чат-бота Claude с инструментами обратной разработки. Команда специалистов из TrustedSec реализовала уникальный подход , в котором искусственный...

Всё началось с простого запроса от бота — а закончилось иском на миллиарды. Компания Reddit подала в суд на Anthropic, обвинив в незаконном использовании пользовательского контента с платформы для обучения искусственного интеллекта. Согласно иску, поданному в Верховный суд Сан-Франциско...

Ты просишь помощи у ИИ — а он сам создает PR с утечкой. GitHub столкнулся с серьёзной уязвимостью в системе интеграции MCP, которая позволяет злоумышленникам получать доступ к данным из приватных репозиториев. Проблема обнаружена командой Invariant. Уязвимость особенно опасна в условиях...

Что будет, если ИИ заставят программировать 7 часов подряд? В Anthropic проверили. И удивились. Компания Anthropic выпустила два новых языковых помощника четвёртого поколения: Claude Sonnet 4 и Claude Opus 4. Запуск прошёл 22 мая, причём младшая модель стала доступна бесплатным пользователям...

Тест показал пределы ИИ на реальных задачах с Kaggle. ИИ пока не может заменить фрилансеров-программистов — но всё ближе к этому. Исследователи из компании PeopleTec сравнили, как четыре языковые модели справляются с задачами, типичными для бирж вроде Freelancer.com. Оказалось, что даже...

Языковые модели превращают науку в самоуверенный бред. А мы не замечаем… Исследователи из Утрехтского университета и британско-канадской научной группы обнаружили серьёзную проблему : крупные языковые модели в 73% случаев искажают суть научных работ. Уве Петерс и Бенджамин Чин-Йи целый год...

Ты продуктивен с ИИ, но для начальника — просто хитрый бездельник. На первый взгляд, искусственный интеллект кажется идеальным помощником: он экономит время, ускоряет процессы и снимает рутину с плеч офисных работников. Однако новое исследование учёных из Университета Дьюка показывает, что за...

Искусственный сценарист всегда точно знает, когда пошутить и с кем поспорить. Неизвестные злоумышленники использовали популярную нейросеть Claude в рамках масштабной кампании по скрытому влиянию в социальных сетях. По данным специалистов из Anthropic, с помощью искусственного интеллекта...

Теперь злоумышленникам не нужен пароль — достаточно одного скрытого запроса. В условиях стремительного развития технологий искусственного интеллекта специалисты всё чаще обращают внимание на слабые места новых протоколов взаимодействия. Один из таких случаев связан с Model Context Protocol (...

Как из одного запроса сделать дыру в защите ИИ. Одна из ключевых тем безопасности в области ИИ снова оказалась в центре внимания после выявления двух системных методов обхода защитных механизмов в популярных генеративных сервисах. Новые уязвимости, получившие названия «Inception» и...

Сыграли в ролевую — получили катастрофу. Специалисты HiddenLayer разработали первую универсальную технику атак на ИИ, способную обойти защиту практически всех передовых языковых моделей. Новый метод под названием Policy Puppetry позволяет нарушить встроенные ограничения моделей и добиться...

Как XML и JSON удалось сломать моральный компас ChatGPT и его конкурентов. Специалисты компании HiddenLayer обнаружили универсальную уязвимость в крупнейших языковых моделях искусственного интеллекта. Простой текстовый запрос позволяет обойти все защитные механизмы и заставить нейросети...

Anthropic выпустила утилиту командной строки с поддержкой многозадачности, git, bash и GitHub. Недавно Anthropic выпустила новый инструмент под названием Claude Code — это утилита командной строки, созданная для поддержки «агентного программирования», когда ИИ не просто отвечает на команды, а...

ИИ от Anthropic теперь понимает контекст из Workspace. Компания Anthropic запустила интеграцию своего ИИ-ассистента Claude с Google Workspace. Теперь пользователи смогут подключать Claude к Gmail, Календарю и Google Документам, чтобы ассистент искал и использовал данные из почты, расписания и...

Исследователи выявили новый метод атаки, превращающий в потенциальных киберзлодеев даже детей. Платформа Lovable, предназначенная для генерации веб-приложений с помощью текстовых подсказок, оказалась неожиданным подарком для начинающих кибермошенников. По данным Guardio Labs, именно она...

Дарио Амодеи обещает, что ИИ скоро победит смерть… Но можно ли ему доверять? В мире искусственного интеллекта есть компания, которая пытается решить, возможно, самую сложную задачу для всей технологической отрасли: как создать по-настоящему мощный ИИ, не подвергая человечество опасности...