Новости Глава Anthropic призвал ИИ-компании проверять безопасность нейросетей

[CryptoWatcher]

---

CEO Anthropic Дарио Амодеи призвал другие ИИ-компании проводить обязательное тестирование безопасности нейросетей перед их публичным выпуском. Об этом пишет Для просмотра ссылки Войди или Зарегистрируйся.

«Я думаю, что мы должны сделать тестирование обязательным, но также важно быть очень осторожными в том, как это делать», — сказал он.

По словам главы ИИ-стартапа, существует ряд добровольно принятых правил безопасности, с которыми согласились крупные фирмы. Однако необходимы более четкие стандарты.

«Нет ничего, что позволило бы проверить или убедиться следованию правилам со стороны компании. Они просто сказали, что будут это делать», — подчеркнул он.

Амодеи добавил, что стартапы пошли на соблюдение ряда стандартов под влиянием общественности и работников, но в конечном итоге этого окажется недостаточно. В то же время требования к тестированиям должны оставаться «гибкими», чтобы учитывать темпы изменения технологий.

В ноябре Anthropic Для просмотра ссылки Войди или Зарегистрируйся свои ИИ-продукты разведывательным и оборонным агентствам США. Ранее Meta Для просмотра ссылки Войди или Зарегистрируйся на аналогичный шаг.

Напомним, в том же месяце Амодеи Для просмотра ссылки Войди или Зарегистрируйся, что искусственный интеллект достигнет человеческого уровня в 2026 году.