- 14,589
- 22
- 8 Ноя 2022
2 часа беседы с машиной – и вы уже не уникальны.
Группа ученых из Стэнфорда и Google DeepMind разработала Для просмотра ссылки Войдиили Зарегистрируйся , позволяющую создавать виртуальные копии людей после непродолжительной беседы. Достаточно двухчасового интервью с искусственным интеллектом, чтобы система смогла воссоздать вашу личность, ценности и предпочтения с поразительной точностью.
В исследовании приняли участие тысяча добровольцев разного возраста, пола, расы, образования и политических взглядов. Каждому заплатили до 100 долларов за прохождение опроса, на основе которого впоследствии были созданы их цифровые двойники.
Руководитель проекта, аспирант Стэнфорда Джун Сун Парк, пришел к идее использовать именно формат интервью после собственного опыта участия в подкастах. По его словам, разговор 1 на 1 позволяет раскрыть личность человека намного глубже, чем стандартные анкеты.
Для проверки точности воспроизведения личностных характеристик участники дважды с интервалом в две недели прошли серию тестов: психологические опросники, социальные исследования и логические игры. Затем те же задания выполнили их цифровые двойники. Результаты совпали на 85%.
Если говорить конкретно, проверки включали: общий социальный опрос, измеряющий демографические показатели, уровень счастья и поведенческие паттерны. Также оценивалась "большая пятерка" личностных черт: открытость опыту, добросовестность, экстраверсия, доброжелательность и нейротизм.
В научной работе такие копии называются "симуляционными агентами". Они призваны исследования в социальных и других науках, где эксперименты с реальными людьми требуют больших затрат или могут оказаться непрактичными и неэтичными. Например, с помощью виртуальных двойников можно изучать эффективность борьбы с дезинформацией в социальных сетях или поведенческие причины дорожных заторов.
Симуляционные агенты отличаются от инструментальных агентов, над которыми сейчас работают ведущие IT-компании. Salesforce, Anthropic и OpenAI разрабатывают ассистентов для выполнения конкретных задач: ввода данных, поиска информации, планирования поездок.
Исследователи уделили особое внимание способам преобразования уникальных человеческих качеств в формат, понятный машине. Например, в ходе бесед система может узнать о значимых жизненных событиях, повлиявших на мировоззрение человека. Например, опыт победы над тяжелым заболеванием часто определяет отношение к жизни и принятие решений, но такую информацию трудно обработать без подробностей.
Технология, однако, имеет свои ограничения. Виртуальные двойники хуже справились с поведенческими тестами вроде "игры диктатора", которая выявляет отношение к справедливости и этическим дилеммам. Кроме того, существуют опасения, что технология, если попадет в массы, будет использована во вред. Это идеальный инструмент для создания дипфейков и манипулирования чужой личностью в интернете.
Хассаан Раза, генеральный директор компании Tavus, занимающейся созданием цифровых двойников, отмечает перспективность нового подхода. Если раньше для воссоздания личности требовался большой массив данных, включая электронную переписку, то теперь достаточно часового интервью, разбитого на несколько сессий.
Группа ученых из Стэнфорда и Google DeepMind разработала Для просмотра ссылки Войди
В исследовании приняли участие тысяча добровольцев разного возраста, пола, расы, образования и политических взглядов. Каждому заплатили до 100 долларов за прохождение опроса, на основе которого впоследствии были созданы их цифровые двойники.
Руководитель проекта, аспирант Стэнфорда Джун Сун Парк, пришел к идее использовать именно формат интервью после собственного опыта участия в подкастах. По его словам, разговор 1 на 1 позволяет раскрыть личность человека намного глубже, чем стандартные анкеты.
Для проверки точности воспроизведения личностных характеристик участники дважды с интервалом в две недели прошли серию тестов: психологические опросники, социальные исследования и логические игры. Затем те же задания выполнили их цифровые двойники. Результаты совпали на 85%.
Если говорить конкретно, проверки включали: общий социальный опрос, измеряющий демографические показатели, уровень счастья и поведенческие паттерны. Также оценивалась "большая пятерка" личностных черт: открытость опыту, добросовестность, экстраверсия, доброжелательность и нейротизм.
В научной работе такие копии называются "симуляционными агентами". Они призваны исследования в социальных и других науках, где эксперименты с реальными людьми требуют больших затрат или могут оказаться непрактичными и неэтичными. Например, с помощью виртуальных двойников можно изучать эффективность борьбы с дезинформацией в социальных сетях или поведенческие причины дорожных заторов.
Симуляционные агенты отличаются от инструментальных агентов, над которыми сейчас работают ведущие IT-компании. Salesforce, Anthropic и OpenAI разрабатывают ассистентов для выполнения конкретных задач: ввода данных, поиска информации, планирования поездок.
Исследователи уделили особое внимание способам преобразования уникальных человеческих качеств в формат, понятный машине. Например, в ходе бесед система может узнать о значимых жизненных событиях, повлиявших на мировоззрение человека. Например, опыт победы над тяжелым заболеванием часто определяет отношение к жизни и принятие решений, но такую информацию трудно обработать без подробностей.
Технология, однако, имеет свои ограничения. Виртуальные двойники хуже справились с поведенческими тестами вроде "игры диктатора", которая выявляет отношение к справедливости и этическим дилеммам. Кроме того, существуют опасения, что технология, если попадет в массы, будет использована во вред. Это идеальный инструмент для создания дипфейков и манипулирования чужой личностью в интернете.
Хассаан Раза, генеральный директор компании Tavus, занимающейся созданием цифровых двойников, отмечает перспективность нового подхода. Если раньше для воссоздания личности требовался большой массив данных, включая электронную переписку, то теперь достаточно часового интервью, разбитого на несколько сессий.
- Источник новости
- www.securitylab.ru
