- 19,427
- 40
- 8 Ноя 2022
ChatGPT o3 превращается в карманного детектива.
OpenAI представила новые модели ChatGPT с улучшенной способностью рассуждать на основе изображений, и пользователи быстро нашли для них неожиданное применение — определение геолокации по случайным фотографиям.
В соцсетях набирает обороты своеобразный челлендж: люди загружают снимки фасадов зданий, ресторанных меню, уличных сцен и даже селфи, а модель о3 отгадывает, где они были сделаны — иногда по мельчайшим деталям. При этом, как подчёркивают исследователи, ChatGPT не использует EXIF-метаданные, то есть скрытую информацию, которая обычно хранится в файлах фото и может напрямую указывать на местоположение.
Для просмотра ссылки Войдиили Зарегистрируйся
Особенно активно о3 сравнивают с игрой GeoGuessr — там участникам нужно по кадрам из Google Street View угадать, где они находятся. Теперь ту же задачу решает нейросеть, и нередко с поразительной точностью. Так, один из пользователей показал, как ChatGPT определил библиотеку по фото за 20 секунд, а другой — как модель узнала бар по фиолетовой голове носорога на стене, несмотря на слабое освещение.
Для просмотра ссылки Войдиили Зарегистрируйся
Однако не всё работает идеально. Иногда модель выдаёт совершенно неверные ответы или «зависает» в попытках проанализировать слишком неинформативное изображение. Тем не менее, даже с огрехами в работе, возможности вызывают тревогу — ведь теперь определить местоположение человека по фото стало гораздо проще, и это может использоваться во вред.
Для просмотра ссылки Войдиили Зарегистрируйся
Тревогу вызывает и то, что ни в одном из официальных документов по безопасности новых моделей OpenAI прямо не затрагивает потенциальные риски подобного использования. Возможность «обратного поиска локации» по фото не ограничена — нейросеть пока не отказывается от таких запросов по умолчанию. Это открывает дорогу для злоупотреблений: злоумышленники могут, например, сохранить сторис из Instagram* и попытаться вычислить, где был человек.
Компания OpenAI, комментируя ситуацию спустя несколько часов после выхода первых публикаций, заявила, что о3 и o4-mini действительно обладают возможностями визуального анализа и могут быть полезны при решении задач в сфере доступности, научных исследованиях и при работе экстренных служб. Представители компании также утверждают, что были внедрены Для просмотра ссылки Войдиили Зарегистрируйся , запрещающие распознавание частных лиц и защиту личной информации. Однако, судя по примерам, приведённым пользователями, пока что ограничения легко обходятся — и это вызывает вопросы к реальной эффективности встроенных механизмов защиты.
Развитие таких возможностей у ИИ-моделей ставит на повестку новые вызовы в области цифровой приватности. Возможности алгоритмов, ещё недавно казавшиеся фантастикой, уже в руках широкой аудитории. Вопрос теперь в том, как быстро разработчики и регуляторы смогут отреагировать на возникающие риски — и будут ли меры достаточно жёсткими, чтобы остановить потенциальное вторжение в частную жизнь.
<span style="font-size: 8pt;">* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
OpenAI представила новые модели ChatGPT с улучшенной способностью рассуждать на основе изображений, и пользователи быстро нашли для них неожиданное применение — определение геолокации по случайным фотографиям.
В соцсетях набирает обороты своеобразный челлендж: люди загружают снимки фасадов зданий, ресторанных меню, уличных сцен и даже селфи, а модель о3 отгадывает, где они были сделаны — иногда по мельчайшим деталям. При этом, как подчёркивают исследователи, ChatGPT не использует EXIF-метаданные, то есть скрытую информацию, которая обычно хранится в файлах фото и может напрямую указывать на местоположение.
Для просмотра ссылки Войди
Особенно активно о3 сравнивают с игрой GeoGuessr — там участникам нужно по кадрам из Google Street View угадать, где они находятся. Теперь ту же задачу решает нейросеть, и нередко с поразительной точностью. Так, один из пользователей показал, как ChatGPT определил библиотеку по фото за 20 секунд, а другой — как модель узнала бар по фиолетовой голове носорога на стене, несмотря на слабое освещение.
Для просмотра ссылки Войди
Однако не всё работает идеально. Иногда модель выдаёт совершенно неверные ответы или «зависает» в попытках проанализировать слишком неинформативное изображение. Тем не менее, даже с огрехами в работе, возможности вызывают тревогу — ведь теперь определить местоположение человека по фото стало гораздо проще, и это может использоваться во вред.
Для просмотра ссылки Войди
Тревогу вызывает и то, что ни в одном из официальных документов по безопасности новых моделей OpenAI прямо не затрагивает потенциальные риски подобного использования. Возможность «обратного поиска локации» по фото не ограничена — нейросеть пока не отказывается от таких запросов по умолчанию. Это открывает дорогу для злоупотреблений: злоумышленники могут, например, сохранить сторис из Instagram* и попытаться вычислить, где был человек.
Компания OpenAI, комментируя ситуацию спустя несколько часов после выхода первых публикаций, заявила, что о3 и o4-mini действительно обладают возможностями визуального анализа и могут быть полезны при решении задач в сфере доступности, научных исследованиях и при работе экстренных служб. Представители компании также утверждают, что были внедрены Для просмотра ссылки Войди
Развитие таких возможностей у ИИ-моделей ставит на повестку новые вызовы в области цифровой приватности. Возможности алгоритмов, ещё недавно казавшиеся фантастикой, уже в руках широкой аудитории. Вопрос теперь в том, как быстро разработчики и регуляторы смогут отреагировать на возникающие риски — и будут ли меры достаточно жёсткими, чтобы остановить потенциальное вторжение в частную жизнь.
<span style="font-size: 8pt;">* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
- Источник новости
- www.securitylab.ru
