anthropic

Что будет, если ИИ заставят программировать 7 часов подряд? В Anthropic проверили. И удивились. Компания Anthropic выпустила два новых языковых помощника четвёртого поколения: Claude Sonnet 4 и Claude Opus 4. Запуск прошёл 22 мая, причём младшая модель стала доступна бесплатным пользователям...

Новые чат-боты от Anthropic — Claude Opus 4 и Claude Sonnet 4 — умеют самостоятельно передавать информацию о злонамеренном поведении пользователей властям. Компания заверила, что функция была доступна только в тестовом режиме. 22 мая фирма представила четвертое поколение разговорных моделей...

ИИ уже пишет за нас, тестирует за нас... осталось только уволить нас. Apple начала тестировать новую платформу для программирования, в которой используется искусственный интеллект, чтобы писать, редактировать и проверять код за программистов. Разрабатывается она совместно со стартапом...

Искусственный сценарист всегда точно знает, когда пошутить и с кем поспорить. Неизвестные злоумышленники использовали популярную нейросеть Claude в рамках масштабной кампании по скрытому влиянию в социальных сетях. По данным специалистов из Anthropic, с помощью искусственного интеллекта...

Теперь злоумышленникам не нужен пароль — достаточно одного скрытого запроса. В условиях стремительного развития технологий искусственного интеллекта специалисты всё чаще обращают внимание на слабые места новых протоколов взаимодействия. Один из таких случаев связан с Model Context Protocol (...

Как из одного запроса сделать дыру в защите ИИ. Одна из ключевых тем безопасности в области ИИ снова оказалась в центре внимания после выявления двух системных методов обхода защитных механизмов в популярных генеративных сервисах. Новые уязвимости, получившие названия «Inception» и...

ИИ от Anthropic теперь понимает контекст из Workspace. Компания Anthropic запустила интеграцию своего ИИ-ассистента Claude с Google Workspace. Теперь пользователи смогут подключать Claude к Gmail, Календарю и Google Документам, чтобы ассистент искал и использовал данные из почты, расписания и...

Дарио Амодеи обещает, что ИИ скоро победит смерть… Но можно ли ему доверять? В мире искусственного интеллекта есть компания, которая пытается решить, возможно, самую сложную задачу для всей технологической отрасли: как создать по-настоящему мощный ИИ, не подвергая человечество опасности...

Дерзкое разоблачение цифрового разума. Компания Anthropic представила результаты двух новых исследований, которые позволяют проследить и проанализировать процесс принятия решений в крупных языковых моделях. Ученым удалось создать методику, выявляющую, как искусственный интеллект связывает...

Anthropic доказала способность ИИ менять роли и скрывать цели. Компания Anthropic опубликовала новое исследование под названием «Аудит языковых моделей на предмет скрытых целей» , демонстрирующее, как специально обученные языковые модели могут скрывать определённые «мотивации» от систем...

Способность машин рассуждать переводит дискуссию из теоретической плоскости в область реальных рисков. Развитие искусственного интеллекта стремительно приближается к новому этапу — созданию мощных систем, способных к осмысленному решению задач, выходящему за рамки статистического...

ИИ-стартап Anthropic закрыл новый раунд финансирования, получив $3,5 млрд при оценке в $61,5 млрд. Ранее OpenAI получил $6,6 млрд при оценке в $157 млрд. Напомним, в феврале Anthropic представил свою «самую интеллектуальную модель» Claude 3.7 Sonnet. Это гибридная нейросеть, позволяющая...

Стрим от Anthropic - отличная возможность «заглянуть в голову» машине. Вчера, 25 февраля, Anthropic запустила на Twitch трансляцию "Claude Plays Pokémon" , где их новейшая модель Claude 3.7 Sonnet пытается пройти игру Pokémon Red 90-х годов. То, что задумывалось как технический тест...

ИИ-стартап Anthropic представил свою «самую интеллектуальную модель» Claude 3.7 Sonnet. Это гибридная нейросеть, позволяющая получать как «практически мгновенные ответы», так и «длительные пошаговые размышления». Расширенный режим мышления усовершенствовал ИИ в различных областях вроде...

Anthropic выяснила, каким специалистам не грозит замена ИИ. Согласно исследованию Anthropic, которая анализировала использование своей модели Claude , влияние искусственного интеллекта на рынок труда продолжает расти, но далеко не все профессии активно используют ИИ в своей работе. Всего...

Новый метод защиты оказался куда эффективнее, чем кто-либо ожидал. Американская компания Anthropic представила новый способ защиты больших языковых моделей (LLM) от так называемых «джейлбрейков» — методов обхода встроенных ограничений, которые могут заставить ИИ выполнять запрещённые...

2025 год: точка невозврата для искусственного интеллекта. Генеральный директор Anthropic Дарио Амодеи заявил в интервью Wall Street Journal, что прогресс в развитии искусственного интеллекта действительно происходит стремительными темпами. В беседе с журналистами издания Амодеи обсудил...

ИИ-стартап Anthropic выпустит двусторонний голосовой режим для чат-бота Claude и функцию памяти для запоминания большего количества информации о пользователе и прошлых разговорах. Об этом сообщил CEO фирмы Дарио Амодеи, пишет The Wall Street Journal. Компания также планирует представить «более...

Ошибки в тексте помогли взломать мозг чатбота. Согласно новому отчету Anthropic, обход ограничений LLM-моделей остаётся довольно простым и может быть автоматизирован. Группа ученых разработали алгоритм Best-of-N (BoN) Jailbreaking, который позволяет обходить защитные механизмы современных...

Anthropic выпустила новую модель искусственного интеллекта 3.5 Haiku для пользователей платформы чат-ботов Claude. Нейросеть доступна в веб-версии и на мобильных устройствах. 3.5 Haiku представили в октябре вместе с обновленной версией 3.5 Sonnet, однако сам запуск ожидался позже. По...

Компания Amazon создала новый генеративный ИИ для работы с изображениями и видео в дополнение к тексту. Об этом пишет The Information со ссылкой на источники. По данным издания, разработка поможет фирме снизить зависимость от популярного на Amazon Web Services (AWS) чат-бота Claude от...

CEO Anthropic Дарио Амодеи призвал другие ИИ-компании проводить обязательное тестирование безопасности нейросетей перед их публичным выпуском. Об этом пишет Bloomberg. «Я думаю, что мы должны сделать тестирование обязательным, но также важно быть очень осторожными в том, как это делать», —...

Искусственный интеллект достигнет человеческого уровня в 2026 году. Такое заявление сделал CEO Anthropic Дарио Амодеи в ходе подкаста с Лексом Фридманом. Он сравнил достижения ИИ с различными уровнями образования. «Мы приближаемся к уровню доктора наук. В прошлом году ИИ был на уровне...

Искусственный интеллект достигнет человеческого уровня в 2026 году. Такое заявление сделал CEO Anthropic Дарио Амодеи в ходе подкаста с Лексом Фридманом. Он сравнил достижения ИИ с различными уровнями образования. «Мы приближаемся к уровню доктора наук. В прошлом году ИИ был на уровне...

Anthropic вслед за Meta открыла свои ИИ-технологии разведывательным и оборонным агентствам США. Для этого компания заключила партнерство Amazon Web Services (AWS) и Palantir, говорится в уведомлении последней. Правительство США получит доступ к семейству больших языковых моделей Claude 3 и 3.5...