- 14,589
- 22
- 8 Ноя 2022
«Волшебник» с вредными советами рискует жизнями сообществ в соцсетях.
На днях в одной из популярных групп на Facebook*, посвящённой грибам, появился новый чат-бот FungiFriend. Присутствие помощника вызвало бурную дискуссию среди участников, когда ИИ порекомендовал обжаривать в масле ядовитый гриб. Ситуация вновь поднимает вопрос о высоких рисках использования ИИ-инструментов для неопытных любителей собирать грибы.
Ранее СМИ уже сообщали об угрозах, связанных с использованием ИИ в хобби по сбору грибов. В частности, на Amazon появились Для просмотра ссылки Войдиили Зарегистрируйся а в поиске Google можно увидеть изображения грибов, созданные нейросетями. На этот раз речь идёт о внедрении FungiFriend в Для просмотра ссылки Войди или Зарегистрируйся многие из которых — новички, ищущие советы по идентификации грибов. Модераторы группы заявили, что бот был добавлен Meta* автоматически и что его уже убирают из сообщества.
Meta недавно начала активно добавлять чат-ботов в определённые группы, представляя различные виртуальные персонажи. Однако подобные действия вызывают опасения среди специалистов. Отраслевые эксперты отмечают, что ИИ-инструменты Для просмотра ссылки Войдиили Зарегистрируйся для помощи новичкам, но способность различать съедобные и ядовитые грибы требует навыков, которые нейросети пока не могут надёжно воспроизводить.
Внешне FungiFriend представлен в виде бородатого волшебника в психоделическом стиле. Один из участников группы задал боту вопрос о приготовлении гриба Sarcosphaera coronaria, который ранее считался съедобным, но, как известно, накапливает мышьяк и может быть смертельно опасен. FungiFriend посоветовал приготовить гриб, обжарив в масле или добавив в суп, что вызвало серьёзное беспокойство среди пользователей.
Пример общения с чат-ботом FungiFriend ( Для просмотра ссылки Войдиили Зарегистрируйся )
Специалисты выражают мнение, что добавление чат-ботов в такие группы — крайне рискованное решение Meta. Тесты различных ИИ-инструментов показали, что они Для просмотра ссылки Войдиили Зарегистрируйся особенно когда дело касается различий между съедобными и ядовитыми грибами.
Искусственный интеллект, автоматически добавленный в группу, где участники пытаются избежать отравления, кажется особенно коварным. Такая практика подчёркивает, что Meta недостаточно контролирует внедрение ИИ на свои платформы. В мобильной версии Facebook чат-бот был представлен как первая опция для общения в группе, что демонстрирует стремление компании к замене общения между людьми на взаимодействие с ИИ.
Также отмечается, что новички часто публикуют фотографии грибов прямо с телефонов, находясь на природе, чтобы получить быстрый ответ от более опытных участников. Если информация окажется неверной, другие пользователи могут её скорректировать. В случае с чат-ботом консультации проходят в личных сообщениях, что повышает риск неправильных рекомендаций.
По словам экспертов, неопытные пользователи могут обращаться к ИИ, опасаясь показаться глупыми перед другими членами сообщества. Однако следует понимать, что советы ИИ не всегда могут быть правильными, и вовсе привести к трагическим последствиям.
<span style="font-size: 8pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
На днях в одной из популярных групп на Facebook*, посвящённой грибам, появился новый чат-бот FungiFriend. Присутствие помощника вызвало бурную дискуссию среди участников, когда ИИ порекомендовал обжаривать в масле ядовитый гриб. Ситуация вновь поднимает вопрос о высоких рисках использования ИИ-инструментов для неопытных любителей собирать грибы.
Ранее СМИ уже сообщали об угрозах, связанных с использованием ИИ в хобби по сбору грибов. В частности, на Amazon появились Для просмотра ссылки Войди
Meta недавно начала активно добавлять чат-ботов в определённые группы, представляя различные виртуальные персонажи. Однако подобные действия вызывают опасения среди специалистов. Отраслевые эксперты отмечают, что ИИ-инструменты Для просмотра ссылки Войди
Внешне FungiFriend представлен в виде бородатого волшебника в психоделическом стиле. Один из участников группы задал боту вопрос о приготовлении гриба Sarcosphaera coronaria, который ранее считался съедобным, но, как известно, накапливает мышьяк и может быть смертельно опасен. FungiFriend посоветовал приготовить гриб, обжарив в масле или добавив в суп, что вызвало серьёзное беспокойство среди пользователей.
Пример общения с чат-ботом FungiFriend ( Для просмотра ссылки Войди
Специалисты выражают мнение, что добавление чат-ботов в такие группы — крайне рискованное решение Meta. Тесты различных ИИ-инструментов показали, что они Для просмотра ссылки Войди
Искусственный интеллект, автоматически добавленный в группу, где участники пытаются избежать отравления, кажется особенно коварным. Такая практика подчёркивает, что Meta недостаточно контролирует внедрение ИИ на свои платформы. В мобильной версии Facebook чат-бот был представлен как первая опция для общения в группе, что демонстрирует стремление компании к замене общения между людьми на взаимодействие с ИИ.
Также отмечается, что новички часто публикуют фотографии грибов прямо с телефонов, находясь на природе, чтобы получить быстрый ответ от более опытных участников. Если информация окажется неверной, другие пользователи могут её скорректировать. В случае с чат-ботом консультации проходят в личных сообщениях, что повышает риск неправильных рекомендаций.
По словам экспертов, неопытные пользователи могут обращаться к ИИ, опасаясь показаться глупыми перед другими членами сообщества. Однако следует понимать, что советы ИИ не всегда могут быть правильными, и вовсе привести к трагическим последствиям.
<span style="font-size: 8pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
- Источник новости
- www.securitylab.ru
