- 14,594
- 22
- 8 Ноя 2022
Не верь всему, что видишь в интернете.
Социальные сети полны ложной информации. Каждый день пользователи Facebook, Twitter, Instagram и других сайтов могут наткнуться на выдуманные “факты” о чём угодно: от вакцин до войны и климатических изменений.
Некоторые люди легко различают правду и вымысел, а другие - нет.
<h2> Почему разумный человек может поверить в ложную информацию? </h2> На этот вопрос пытаются ответить исследователи проекта “PolyGraphs: Combatting Networks of Ignorance in the Misinformation Age” (Полиграфы: Борьба с сетями невежества в эпоху ложной информации).
Проект объединяет три отделения - философии, экономики и компьютерных наук - Норд-Истернского университета Лондона. Он использует компьютерные симуляции, чтобы помочь нам узнать больше о том, как знания распространяются в сообществе социальных сетей.
Спустя два года работы исследователи запустили интерактивный сайт и сделали несколько впечатляющих открытий, в том числе о том, как и почему разумные люди могут ошибаться.
Проект использует искусственные данные, а также данные из реальных социальных сетей, таких как Facebook и Twitter, чтобы создать симулированные сообщества, в которых каждый индивид должен выбрать между A и B. (B - правильный выбор, но сообщество этого не знает.) Агенты в сообществе собирают свои собственные доказательства, делятся ими с другими и меняют свои убеждения. Затем исследователи смотрят, достигает ли сообщество коллективно правильного вывода и сколько времени это занимает.
<h2> Симуляции похожи на испытания лекарств </h2> Если эта концепция кажется несколько абстрактной, Амил Моханан предлагает пример, который во многом схож с ситуациями, с которыми сталкиваются агенты в симуляциях. Моханан, являющийся доцентом философии в Лондонском университете North-Eastern, демонстрирует аналогии между симуляциями и клиническими испытаниями лекарств, которые проводят медицинские специалисты. В контексте симуляции каждому врачу предоставляется для тестирования препарат A или B.
“Мы знаем, что B немного лучше, но врачи в сообществе, которое мы симулируем, этого не знают”, - говорит он.
Когда врачи проводят испытания, они обнаруживают, что препарат B лучше, и делятся своими результатами со своими коллегами. В зависимости от различных факторов некоторые из врачей будут менять свои убеждения в зависимости от того, что они узнают от других. Если всё идёт хорошо, они в конечном итоге придут к консенсусу, что препарат B лучше.
<h2> Но сколько времени это займёт?</h2> "Мы изучаем, насколько быстро и эффективно сообщества приходят к выводу о превосходстве препарата B над A", - уточняет Моханан. Они проводят тысячи симуляционных итераций, модифицируя различные параметры, такие как размер и структура сети, чтобы определить, за какой промежуток времени будет достигнуто общее согласие относительно препарата B.
К примеру, в одной модели сети информационный обмен осуществляется только между каждым агентом и двумя другими, создавая круговую структуру обмена. В другой модели один участник делится информацией со всем коллективом, который, в свою очередь, возвращает информацию ему. В третьем случае информация свободно циркулирует между всеми участниками. Эти модели сетей отражают те, которые мы видим в реальной жизни или в онлайн-пространстве
Маленькие могут оказать глубокое воздействие. Ещё один фактор, который влияет на результаты, - это ложная информация. Небольшие обманы могут иметь далеко идущие последствия, обнаружил Моханан, причем влияние может варьироваться в зависимости от таких параметров, как степень связности сети.
При этом обман может принимать различные формы в разных симуляциях. Врачи могут, например, утверждать, что они провели испытания и уверены в превосходстве препарата A. Они могут случайным образом выбрать одно из средств и исказить данные. Или они могут ввести в заблуждение и выбрать препарат A, потому что знакомы с ним больше всего.
"Общие результаты сильно отличаются" в каждом из сценариев, подчеркивает Моханан. После тысяч итераций симуляции его команда выяснила, что эти частицы сомнения могут вызвать значительные изменения.
Другие результаты оказались совершенно неожиданными. К примеру, исследовательская команда выявила, что в некоторых случаях большая открытость информационного обмена между людьми может действительно способствовать негативному эффекту, замедляя достижение консенсуса. Этот явление получило название эффекта Золлмана и представляет собой теорию о том, что большая связность сети может в большей степени способствовать распространению ошибочных убеждений.
"Разумные агенты в таких сетях могут оказаться более подверженными неведению или иметь большую вероятность не прийти к правильному ответу на вопрос, если они в большей степени общаются друг с другом", - утверждает Брайан Болл, руководитель факультета философии Норд-Истернского университета в Лондоне.
Они также выяснили, что недоверие членов сообщества к тем, чьи убеждения отличаются от их собственных, может привести к неприятию общего мнения и как результат поляризации внутри сообщества.
<h2> Невежество среди разумных субъектов</h2> Прежде всего, ученые доказали, что невежество может проникнуть даже среди разумных субъектов. Часто люди воспринимают тех, кто "ошибается", как не обладающих интеллектом или субъективными. Однако, как подчеркивает Болл, "мы показываем, что ошибки людей могут возникать не вследствие их глупости или предвзятости".
Вместо этого люди могут быть введены в заблуждение вовсе не по своей вине, и причина здесь - структура социальной сети.
"Это может зависеть от степени их вовлеченности в общество и, более широко говоря, от характера их информационного окружения", - объясняет Болл.
Болл выражает надежду, что эти открытия окажутся полезными в различных областях, включая социальные сети, общественную политику, СМИ и некоммерческие организации, ставящие целью борьбу с распространением ложной информации в интернете.
Если вас беспокоит то, что вы видите в социальных сетях, Моханан успокаивает: в общем и целом, "правда со временем всегда всплывает наружу".
Социальные сети полны ложной информации. Каждый день пользователи Facebook, Twitter, Instagram и других сайтов могут наткнуться на выдуманные “факты” о чём угодно: от вакцин до войны и климатических изменений.
Некоторые люди легко различают правду и вымысел, а другие - нет.
<h2> Почему разумный человек может поверить в ложную информацию? </h2> На этот вопрос пытаются ответить исследователи проекта “PolyGraphs: Combatting Networks of Ignorance in the Misinformation Age” (Полиграфы: Борьба с сетями невежества в эпоху ложной информации).
Проект объединяет три отделения - философии, экономики и компьютерных наук - Норд-Истернского университета Лондона. Он использует компьютерные симуляции, чтобы помочь нам узнать больше о том, как знания распространяются в сообществе социальных сетей.
Спустя два года работы исследователи запустили интерактивный сайт и сделали несколько впечатляющих открытий, в том числе о том, как и почему разумные люди могут ошибаться.
Проект использует искусственные данные, а также данные из реальных социальных сетей, таких как Facebook и Twitter, чтобы создать симулированные сообщества, в которых каждый индивид должен выбрать между A и B. (B - правильный выбор, но сообщество этого не знает.) Агенты в сообществе собирают свои собственные доказательства, делятся ими с другими и меняют свои убеждения. Затем исследователи смотрят, достигает ли сообщество коллективно правильного вывода и сколько времени это занимает.
<h2> Симуляции похожи на испытания лекарств </h2> Если эта концепция кажется несколько абстрактной, Амил Моханан предлагает пример, который во многом схож с ситуациями, с которыми сталкиваются агенты в симуляциях. Моханан, являющийся доцентом философии в Лондонском университете North-Eastern, демонстрирует аналогии между симуляциями и клиническими испытаниями лекарств, которые проводят медицинские специалисты. В контексте симуляции каждому врачу предоставляется для тестирования препарат A или B.
“Мы знаем, что B немного лучше, но врачи в сообществе, которое мы симулируем, этого не знают”, - говорит он.
Когда врачи проводят испытания, они обнаруживают, что препарат B лучше, и делятся своими результатами со своими коллегами. В зависимости от различных факторов некоторые из врачей будут менять свои убеждения в зависимости от того, что они узнают от других. Если всё идёт хорошо, они в конечном итоге придут к консенсусу, что препарат B лучше.
<h2> Но сколько времени это займёт?</h2> "Мы изучаем, насколько быстро и эффективно сообщества приходят к выводу о превосходстве препарата B над A", - уточняет Моханан. Они проводят тысячи симуляционных итераций, модифицируя различные параметры, такие как размер и структура сети, чтобы определить, за какой промежуток времени будет достигнуто общее согласие относительно препарата B.
К примеру, в одной модели сети информационный обмен осуществляется только между каждым агентом и двумя другими, создавая круговую структуру обмена. В другой модели один участник делится информацией со всем коллективом, который, в свою очередь, возвращает информацию ему. В третьем случае информация свободно циркулирует между всеми участниками. Эти модели сетей отражают те, которые мы видим в реальной жизни или в онлайн-пространстве
Маленькие могут оказать глубокое воздействие. Ещё один фактор, который влияет на результаты, - это ложная информация. Небольшие обманы могут иметь далеко идущие последствия, обнаружил Моханан, причем влияние может варьироваться в зависимости от таких параметров, как степень связности сети.
При этом обман может принимать различные формы в разных симуляциях. Врачи могут, например, утверждать, что они провели испытания и уверены в превосходстве препарата A. Они могут случайным образом выбрать одно из средств и исказить данные. Или они могут ввести в заблуждение и выбрать препарат A, потому что знакомы с ним больше всего.
"Общие результаты сильно отличаются" в каждом из сценариев, подчеркивает Моханан. После тысяч итераций симуляции его команда выяснила, что эти частицы сомнения могут вызвать значительные изменения.
Другие результаты оказались совершенно неожиданными. К примеру, исследовательская команда выявила, что в некоторых случаях большая открытость информационного обмена между людьми может действительно способствовать негативному эффекту, замедляя достижение консенсуса. Этот явление получило название эффекта Золлмана и представляет собой теорию о том, что большая связность сети может в большей степени способствовать распространению ошибочных убеждений.
"Разумные агенты в таких сетях могут оказаться более подверженными неведению или иметь большую вероятность не прийти к правильному ответу на вопрос, если они в большей степени общаются друг с другом", - утверждает Брайан Болл, руководитель факультета философии Норд-Истернского университета в Лондоне.
Они также выяснили, что недоверие членов сообщества к тем, чьи убеждения отличаются от их собственных, может привести к неприятию общего мнения и как результат поляризации внутри сообщества.
<h2> Невежество среди разумных субъектов</h2> Прежде всего, ученые доказали, что невежество может проникнуть даже среди разумных субъектов. Часто люди воспринимают тех, кто "ошибается", как не обладающих интеллектом или субъективными. Однако, как подчеркивает Болл, "мы показываем, что ошибки людей могут возникать не вследствие их глупости или предвзятости".
Вместо этого люди могут быть введены в заблуждение вовсе не по своей вине, и причина здесь - структура социальной сети.
"Это может зависеть от степени их вовлеченности в общество и, более широко говоря, от характера их информационного окружения", - объясняет Болл.
Болл выражает надежду, что эти открытия окажутся полезными в различных областях, включая социальные сети, общественную политику, СМИ и некоммерческие организации, ставящие целью борьбу с распространением ложной информации в интернете.
Если вас беспокоит то, что вы видите в социальных сетях, Моханан успокаивает: в общем и целом, "правда со временем всегда всплывает наружу".
- Источник новости
- www.securitylab.ru
