- 19,455
- 40
- 8 Ноя 2022
Авторы-призраки и фейковые рецепты – библиотеки тонут в потоке ИИ-литературы.
Публичные библиотеки столкнулись с новым вызовом — лавиной низкокачественных книг, созданных с помощью искусственного интеллекта. Эти книги проникают в цифровые каталоги, усложняя работу библиотекарей, которым приходится либо вручную отслеживать их появление, либо мириться с растущими тратами на сомнительный контент.
Большинство библиотек пользуются сервисами OverDrive и Hoopla для управления электронными книгами. В OverDrive библиотекари могут самостоятельно выбирать, какие из доступных изданий будут предложены читателям. В Hoopla такой возможности нет — платформа предоставляет доступ сразу ко всему каталогу, а библиотеки оплачивают каждую взятую пользователем книгу. Единственным инструментом ограничения является установка предельной стоимости книг, например, не выше $5 за одну выдачу. В результате в фонды попадают тысячи низкокачественных изданий, включая книги, созданные ИИ.
Среди примеров таких книг — Fatty Liver Diet Cookbook от несуществующего автора Магды Тэнги, профиль которой на Amazon оказался сгенерирован нейросетью. В каталоге также встречаются книги с искаженным текстом, странными иллюстрациями и подозрительными авторами, за которыми нет реальных людей.
Система Hoopla, позволяющая загружать практически любой контент, привела к появлению в библиотеках книг с дезинформацией и ошибочными данными. Это вызывает обеспокоенность библиотекарей, поскольку пользователи ожидают, что вся представленная в каталогах литература прошла хотя бы минимальную проверку. Более того, некоторые из книг могут содержать опасные советы для людей с определенными заболеваниями.
Кроме того, в каталогах регулярно всплывают книги, чьи авторы за короткий срок выпускают десятки изданий на самые разные темы — от готовки до биографий знаменитостей. Например, Билл Тарино Для просмотра ссылки Войдиили Зарегистрируйся за год, среди которых Для просмотра ссылки Войди или Зарегистрируйся , руководства по психологии и учебники по домашней безопасности.
Примеры книг Билла Тарино, текст которых сгенерирован ИИ (Hoopla)
Одним из крупнейших поставщиков низкокачественного контента называют Для просмотра ссылки Войдиили Зарегистрируйся — издателя сотен резюмированных версий популярных книг, вероятно, созданных ИИ. Работы издания засоряют каталоги библиотек, выдаваясь в результатах поиска чаще, чем оригиналы. Читатели могут случайно взять краткое изложение вместо полной версии книги, разочароваться и зря потратить библиотечный бюджет.
В 2022 году организации Library Futures и Library Freedom Project Для просмотра ссылки Войдиили Зарегистрируйся от OverDrive и Hoopla удалить из каталогов книги, распространяющие дезинформацию, в том числе тексты праворадикальных издательств. В ответ Hoopla пообещала улучшить алгоритмы фильтрации, но насколько эффективны эти меры, остается под вопросом. Некоторые библиотекари сообщают, что поиск по ключевым словам вроде «гомосексуальность*» или «аборт» приводит преимущественно к религиозной пропаганде, а не к научным публикациям.
Библиотекари опасаются, что обсуждение данной проблемы может вызвать критику со стороны активистов, выступающих против цензуры. Однако призыв не связан с запретами — библиотекари требуют прозрачности от платформ, чтобы иметь возможность контролировать качество предоставляемого контента.
Hoopla и OverDrive не прокомментировали ситуацию. Однако библиотекари продолжают настаивать на том, чтобы платформы добавили инструменты для фильтрации и четко маркировали книги, созданные искусственным интеллектом.
<span style="font-size: 8pt;">* Движение ЛГБТ признано экстремистским и запрещено на территории РФ.</span>
Публичные библиотеки столкнулись с новым вызовом — лавиной низкокачественных книг, созданных с помощью искусственного интеллекта. Эти книги проникают в цифровые каталоги, усложняя работу библиотекарей, которым приходится либо вручную отслеживать их появление, либо мириться с растущими тратами на сомнительный контент.
Большинство библиотек пользуются сервисами OverDrive и Hoopla для управления электронными книгами. В OverDrive библиотекари могут самостоятельно выбирать, какие из доступных изданий будут предложены читателям. В Hoopla такой возможности нет — платформа предоставляет доступ сразу ко всему каталогу, а библиотеки оплачивают каждую взятую пользователем книгу. Единственным инструментом ограничения является установка предельной стоимости книг, например, не выше $5 за одну выдачу. В результате в фонды попадают тысячи низкокачественных изданий, включая книги, созданные ИИ.
Среди примеров таких книг — Fatty Liver Diet Cookbook от несуществующего автора Магды Тэнги, профиль которой на Amazon оказался сгенерирован нейросетью. В каталоге также встречаются книги с искаженным текстом, странными иллюстрациями и подозрительными авторами, за которыми нет реальных людей.
Система Hoopla, позволяющая загружать практически любой контент, привела к появлению в библиотеках книг с дезинформацией и ошибочными данными. Это вызывает обеспокоенность библиотекарей, поскольку пользователи ожидают, что вся представленная в каталогах литература прошла хотя бы минимальную проверку. Более того, некоторые из книг могут содержать опасные советы для людей с определенными заболеваниями.
Кроме того, в каталогах регулярно всплывают книги, чьи авторы за короткий срок выпускают десятки изданий на самые разные темы — от готовки до биографий знаменитостей. Например, Билл Тарино Для просмотра ссылки Войди
Примеры книг Билла Тарино, текст которых сгенерирован ИИ (Hoopla)
Одним из крупнейших поставщиков низкокачественного контента называют Для просмотра ссылки Войди
В 2022 году организации Library Futures и Library Freedom Project Для просмотра ссылки Войди
Библиотекари опасаются, что обсуждение данной проблемы может вызвать критику со стороны активистов, выступающих против цензуры. Однако призыв не связан с запретами — библиотекари требуют прозрачности от платформ, чтобы иметь возможность контролировать качество предоставляемого контента.
Hoopla и OverDrive не прокомментировали ситуацию. Однако библиотекари продолжают настаивать на том, чтобы платформы добавили инструменты для фильтрации и четко маркировали книги, созданные искусственным интеллектом.
<span style="font-size: 8pt;">* Движение ЛГБТ признано экстремистским и запрещено на территории РФ.</span>
- Источник новости
- www.securitylab.ru
