- 14,594
- 22
- 8 Ноя 2022
Эксперты предупреждают о дискриминации и ложной информации.
Microsoft и Epic Systems, один из ведущих разработчиков программного обеспечения для здравоохранения, объявили о партнерстве по внедрению генеративной модели GPT-4 от OpenAI для улучшения сервисов в здравоохранении. Чат-бот на основе GPT-4 будет использоваться для ответов на сообщения пациентов и при анализе медицинских записей.
Системы электронных медицинских карт Epic, такие как MyChart, используются более чем в 29% американских больниц и охватывают более 305 млн пациентов по всему миру. Однако, критика была высказана в адрес компании после того, как расследование Stat News выявило неточности в алгоритмах Epic Systems.
Сотрудничество с Microsoft позволит Epic использовать сервис Azure для доступа к языковым моделям OpenAI, таким как GPT-3 и GPT-4. Это обеспечит автоматическое составление ответов на сообщения пациентов, а также интеграцию ИИ в некоторые повседневные процессы компании.
GPT-4 также будет использоваться для анализа данных в базе Slicer Dicer - инструменте исследований Epic. По мнению Microsoft, это поможет персоналу клиник искать информацию в интуитивно понятной форме, сходной с взаимодействием с ChatGPT.
Однако, партнерство между Microsoft и Epic Systems вызывает опасения у экспертов в области языковых моделей, так как GPT-4 имеет склонность к конфабуляциям, выдавая информацию, которая не представлена в её наборе данных. Кроме того, существует проблема потенциальной предвзятости GPT-4, которая может привести к дискриминации пользователей по различным основаниям.
Маргарет Митчелл, главный специалист по этике Hugging Face, подчеркнула, что текущая политика применения решений OpenAI запрещает использование моделей для получения медицинских инструкций, поскольку генерирование ложной информации в клинических условиях может привести к трагическим последствиям.
Microsoft и Epic Systems, один из ведущих разработчиков программного обеспечения для здравоохранения, объявили о партнерстве по внедрению генеративной модели GPT-4 от OpenAI для улучшения сервисов в здравоохранении. Чат-бот на основе GPT-4 будет использоваться для ответов на сообщения пациентов и при анализе медицинских записей.
Системы электронных медицинских карт Epic, такие как MyChart, используются более чем в 29% американских больниц и охватывают более 305 млн пациентов по всему миру. Однако, критика была высказана в адрес компании после того, как расследование Stat News выявило неточности в алгоритмах Epic Systems.
Сотрудничество с Microsoft позволит Epic использовать сервис Azure для доступа к языковым моделям OpenAI, таким как GPT-3 и GPT-4. Это обеспечит автоматическое составление ответов на сообщения пациентов, а также интеграцию ИИ в некоторые повседневные процессы компании.
GPT-4 также будет использоваться для анализа данных в базе Slicer Dicer - инструменте исследований Epic. По мнению Microsoft, это поможет персоналу клиник искать информацию в интуитивно понятной форме, сходной с взаимодействием с ChatGPT.
Однако, партнерство между Microsoft и Epic Systems вызывает опасения у экспертов в области языковых моделей, так как GPT-4 имеет склонность к конфабуляциям, выдавая информацию, которая не представлена в её наборе данных. Кроме того, существует проблема потенциальной предвзятости GPT-4, которая может привести к дискриминации пользователей по различным основаниям.
Маргарет Митчелл, главный специалист по этике Hugging Face, подчеркнула, что текущая политика применения решений OpenAI запрещает использование моделей для получения медицинских инструкций, поскольку генерирование ложной информации в клинических условиях может привести к трагическим последствиям.
- Источник новости
- www.securitylab.ru
