Новости SynthID против фейков: обновленная система цифровых меток не даст ИИ обмануть вас

[NewsMaker]

Еще один перспективный инструмент безопасности, который Google представила на мероприятии I/O.

---

---

На прошедшей конференции Google I/O для разработчиков глава компании DeepMind, Демис Хассабис, представил множество новых инструментов на базе искусственного интеллекта, в том числе генератор видео Veo, обновления для Для просмотра ссылки Войди или Зарегистрируйся и прокачанную модель Для просмотра ссылки Войди или Зарегистрируйся . Однако особый акцент был сделан на обновленной системе цифровой маркировки SynthID, которая теперь способна распознавать и маркировать аудио, видео и текстовые материалы, созданные с применением ИИ-технологий.

Необходимость отслеживать подобные материалы становится все более острой по мере развития генеративного ИИ, особенно в случаях его злонамеренного использования. Уже есть много примеров применения нейросетей для распространения дипфейков, в том числе политической дезинформации и сексуализированного контента.

Систему SynthID анонсировали в августе прошлого года как инструмент, с помощью которого можно внедрять в изображения невидимые человеческому глазу водные знаки, распознаваемые специальными алгоритмами. Этот подход отличается от других предлагаемых стандартов цифровой маркировки, таких как C2PA, который предусматривает использование криптографических метаданных.

Осенью 2023 года Google также интегрировала в SynthID функцию цифровой маркировки Для просмотра ссылки Войди или Зарегистрируйся — она позволяет встраивать неслышимые метки в музыкальные композиции, созданные с помощью модели Lyria от DeepMind. SynthID является одной из нескольких разрабатываемых мер по обеспечению безопасности ИИ-технологий и предотвращению их злоупотребления. Даже администрация президента Байдена недавно Для просмотра ссылки Войди или Зарегистрируйся федеральным ведомствам выработать руководящие принципы в этой области.