галлюцинации

ИИ знает всё… если не спрашивать «зачем». Исследователи из Массачусетского технологического института, Гарвардского университета и Чикагского университета предложили новый термин, чтобы описать один из скрытых и малоизученных недостатков современных языковых моделей искусственного интеллекта...

Сейчас мы шутим над галлюцинациями чат-ботов. Но дальше уже будет не до шуток. Когда нейросеть советует использовать клей в качестве начинки для пиццы, многим становится легче на душе. В такие моменты кажется, что страхи о том, как искусственный интеллект лишит людей работы или окончательно...

Чем умнее ИИ, тем легче ему подсунуть вам вирус. ИИ может сгенерировать код, но не всегда — безопасный. Новое исследование , которое будет представлено на конференции USENIX Security Symposium в 2025 году, показало, что LLM-модели, создавая программный код, часто выдумывают зависимости от...

ИИ врал так правдиво, что все ему поверили. Теперь фирма массово теряет клиентов. Компания Cursor, разработчик популярного редактора кода с поддержкой ИИ, оказалась в центре скандала после того, как её автоматический помощник по имени Sam выдумал несуществующее правило, касающееся условий...

Почему код, написанный ИИ, требует проверки человеком. Эра инструментов для генерации кода на основе ИИ не только облегчила жизнь программистам, но и создала новые угрозы для безопасности ПО. Проблема заключается в «галлюцинациях» искусственного интеллекта — способности ИИ-ассистентов...

Меньше данных - умнее вывод? Специалисты по искусственному интеллекту из Университета Северной Каролины выявили серьезную проблему в работе современных систем машинного обучения и нашли способ её решения. Речь идет о так называемых "ложных корреляциях" – ситуациях, когда ИИ начинает принимать...

Как слепая вера в технологии стирает грань между фактом и вымыслом. Американские больницы всё чаще используют ИИ-инструмент для транскрибации аудиоматериалов в текст под названием Whisper . Однако, как утверждается в расследовании Associated Press , эта нейронная сеть, разработанная в...

Мозговые волны раскрыли тайну слуховых галлюцинаций. Картирование мозговых волн приблизило ученых к разгадке того, откуда возникают «голоса», которые слышат люди с шизофренией. Новое исследование, проведенное на базе Нью-Йоркского университета в Шанхае, показало, что восприятие слуховых...

Как умные машины влияют на качество исследований? В научном мире разгорелся скандал, связанный с использованием искусственного интеллекта в публикациях. Аналитики бьют тревогу: машины не только помогают исследователям, но и создает серьезные проблемы для академического сообщества. Недавно...

Исследователи ищут методы обучения ИИ без вреда для людей. Исследователи выяснили, что синтетические данные, широко применяемые для обучения нейросетей, могут содержать опасные искажения и «галлюцинации». Синтетические данные — это искусственно созданная информация, которая имитирует...

Нейросеть теперь принимает решения как человек. Ежедневно человек принимает большое количество решений, каждое из которых требует оценки вариантов, предыдущего опыта и уверенности в правильном выборе. Хотя многие решения кажутся спонтанными, они на самом деле основаны на сборе информации из...

Проблема в китайской версии GPT-4o может привести к снижению производительности и ошибочным ответам. OpenAI 13 мая представила свою новейшую модель искусственного интеллекта GPT-4o (Omni). Однако спустя несколько дней после выпуска модели китайские пользователи заметили, что в новой...

Интересная особенность чат-бота вызвала опасение за правдивость информации. Чат-бот Grok оказался в центре скандала в соцсети X*, генерируя новости на основе шуточных сообщений и представляя их как достоверные сведения. Один из пользователей обнаружил материал, написанный ИИ, который...

Google запретила модели генерировать картинки с людьми, пока она не научится здравому смыслу. Компания Google временно «запретила» чат-боту Gemini генерировать изображения с людьми. В чем же причина? Дело в том, что пользователи в социальных сетях начали подшучивать над странными...

Робот-прокатор заставлял людей слышать несуществующие голоса, а ученые исследовали границы восприятия. Швейцарские ученые изобрели уникальный метод исследования слухо-вербальных галлюцинаций, который позволяет здоровым людям слышать несуществующие голоса. Эксперимент, описанный в журнале...

Инструмент Woodpecker предлагает новый подход к "воспитанию" нейросетей. Исследователи из Университета науки и технологий Китая (USTC) в сотрудничестве с лабораторией Tencent YouTu Lab разработали фреймворк под названием Woodpecker (досл. — дятел) для коррекции так называемых...

Исследователи проверили, кто лучше справляется с онлайн-поиском. Что показал эксперимент? Современные нейросети, работающие на основе больших языковых моделей ( LLM ), долгое время вызывали опасения из-за своей способности выдавать ответы, которые, хоть и кажутся правдоподобными, на самом...

Читеры стали жертвами своего же обмана. Разработчики Call of Duty продолжают бороться с читерами, используя необычные методы. В последнем обновлении игры они добавили функцию, которая заставляет читеров видеть галлюцинации вражеских бойцов, которых на самом деле нет. Эта функция работает...

Система AIP представлена для военного применения, но отсутствие информации о предотвращении "галлюцинаций" вызывает серьезные опасения. Palantir, компания миллиардера Питера Тиля, запускает платформу искусственного интеллекта Palantir (AIP), предназначенную для запуска больших языковых...