- 14,827
- 22
- 8 Ноя 2022
Международная группировка потеряла контроль над своей инфраструктурой.
Microsoft Для просмотра ссылки Войдиили Зарегистрируйся на иностранную группу хакеров, организовавших инфраструктуру для предоставления услуг взлома, направленных на обход систем безопасности её генеративных ИИ-сервисов и создание вредоносного контента.
Специалисты подразделения Digital Crimes Unit (DCU) компании сообщили, что злоумышленники разработали программное обеспечение, эксплуатирующее учётные данные пользователей, полученные из открытых источников. С его помощью они взламывали аккаунты, имеющие доступ к генеративным ИИ-сервисам, и модифицировали их функционал.
Хакеры использовали такие сервисы, как Для просмотра ссылки Войдиили Зарегистрируйся и продавали доступ к ним другим злоумышленникам, предоставляя инструкции по созданию вредоносного контента. Microsoft обнаружила эту активность в июле 2024 года.
Компания заблокировала доступ к своим системам для этой группы, усилила защиту и получила судебный ордер на изъятие сайта «aitism[.]net», который служил основой для публичной вредоносной деятельности хакеров.
Популярность ИИ-инструментов, таких как ChatGPT, привела к тому, что злоумышленники начали их активно использовать для создания запрещённого контента и разработки вредоносных программ. Microsoft и OpenAI ранее сообщали о попытках государств, включая Китай, Иран и Северную Корею использовать их сервисы для разведки и распространения дезинформации.
В судебных документах Для просмотра ссылки Войдиили Зарегистрируйся что за операцией стоят три неизвестных лица, использующих украденные API-ключи Azure и данные аутентификации клиентов для генерации вредоносных изображений с помощью модели DALL-E. Также сообщается о семи других участниках, применявших предоставленные хакерами инструменты для аналогичных целей.
Метод получения ключей API пока не выяснен, но в Microsoft заявили, что злоумышленники осуществляли их систематическую кражу у клиентов, включая компании из Пенсильвании и Нью-Джерси. Украденные ключи использовались для создания сервисов взлома, доступных через инфраструктуру с доменами «rentry.org/de3u» и «aitism.net».
Хакеры использовали инструмент de3u и прокси-сервис oai для отправки запросов в Azure OpenAI Service через украденные API-ключи, создавая вредоносные изображения. После изъятия сайта «aitism[.]net» они удалили репозиторий de3u, страницы Rentry.org и элементы инфраструктуры, чтобы скрыть следы.
Ранее, в мае 2024 года, компания Sysdig сообщала о схожих атаках, названных LLMjacking, в которых использовались украденные учётные данные облачных сервисов для взлома ИИ-инфраструктур от Anthropic, AWS, Google, Microsoft и других.
Microsoft заявила, что деятельность группы хакеров носит систематический характер, затрагивая не только её инфраструктуру, но и сервисы других ИИ-поставщиков.
Microsoft Для просмотра ссылки Войди
Специалисты подразделения Digital Crimes Unit (DCU) компании сообщили, что злоумышленники разработали программное обеспечение, эксплуатирующее учётные данные пользователей, полученные из открытых источников. С его помощью они взламывали аккаунты, имеющие доступ к генеративным ИИ-сервисам, и модифицировали их функционал.
Хакеры использовали такие сервисы, как Для просмотра ссылки Войди
Компания заблокировала доступ к своим системам для этой группы, усилила защиту и получила судебный ордер на изъятие сайта «aitism[.]net», который служил основой для публичной вредоносной деятельности хакеров.
Популярность ИИ-инструментов, таких как ChatGPT, привела к тому, что злоумышленники начали их активно использовать для создания запрещённого контента и разработки вредоносных программ. Microsoft и OpenAI ранее сообщали о попытках государств, включая Китай, Иран и Северную Корею использовать их сервисы для разведки и распространения дезинформации.
В судебных документах Для просмотра ссылки Войди
Метод получения ключей API пока не выяснен, но в Microsoft заявили, что злоумышленники осуществляли их систематическую кражу у клиентов, включая компании из Пенсильвании и Нью-Джерси. Украденные ключи использовались для создания сервисов взлома, доступных через инфраструктуру с доменами «rentry.org/de3u» и «aitism.net».
Хакеры использовали инструмент de3u и прокси-сервис oai для отправки запросов в Azure OpenAI Service через украденные API-ключи, создавая вредоносные изображения. После изъятия сайта «aitism[.]net» они удалили репозиторий de3u, страницы Rentry.org и элементы инфраструктуры, чтобы скрыть следы.
Ранее, в мае 2024 года, компания Sysdig сообщала о схожих атаках, названных LLMjacking, в которых использовались украденные учётные данные облачных сервисов для взлома ИИ-инфраструктур от Anthropic, AWS, Google, Microsoft и других.
Microsoft заявила, что деятельность группы хакеров носит систематический характер, затрагивая не только её инфраструктуру, но и сервисы других ИИ-поставщиков.
- Источник новости
- www.securitylab.ru
