Утечка показала, как врачи в крупнейшей больничной системе Нью-Йорка используют ИИ
В Northwell Health руководители призывают врачей и всех 85 000 сотрудников использовать инструмент под названием AI Hub, говорится в презентации, полученной 404 Media.
Northwell Health является крупнейшим поставщиком медицинских услуг в штате Нью-Йорк. Компания недавно запустила инструмент на базе большой языковой модели, который помогает специалистам в административных задачах, обработке данных пациентов и принятии решений о найме.
По словам представителя Northwell, AI Hub «использует генеративный ИИ, используемый во многом как любая другая внутренняя/административная платформа: Microsoft 365 и т. д. для таких задач, как улучшение электронных писем, проверка грамматики и орфографии, а также резюмирование сводок». В организации заверили, что следуют всем протоколам конфиденциальности и безопасности, и данный инструмент не используется для принятия медицинских решений и не подключен к клиническим базам данных.
Утекшая же в сеть презентация свидетельствует о том, что AI Hub используется для «клинических и смежных с клиникой» задач, для ответов на вопросы о политике больницы и выставлении счетов, написания должностных инструкций и редактирования текстов, а также для обобщения выдержек из электронных медицинских карт и ввода личной идентификационной и защищенной медицинской информации пациентов. В презентации также говорилось о потенциальных возможностях ИИ-инструмента обнаруживать рак поджелудочной железы и выполнять анализ HL7 – стандарт медицинских данных, используемого для обмена электронными медицинскими картами.
AI Hub был выпущен в начале марта 2024 года. После демонстрации инструмента число новых пользователей ежемесячно стало увеличиваться на 500-1000 человек.
Ребекка Каул, старший вице-президент и руководитель отдела цифровых инноваций и трансформации в Northwell, признает, что AI Hub использовался для сводок клинических карт и часто ошибался, поэтому рекомендовала сотрудникам пересматривать выходные данные и использовать ПО для создания черновиков, но не итоговые текстов.
Инструмент также позволяет выбрать одну из 14 различных моделей для взаимодействия, включая Gemini 1.5 Pro, Gemini 1.5 Flash, Claude 3.5 Sonnet, GPT 4 Omni, GPT 4, GPT 4 Omni Mini, Codey, Claude 3 Opus, Claude 3 Sonnet, Claude 3 Haiku, GPT 3.5, PaLM 2, Gemini 1.0 Pro и MedLM.
Помимо административной работы, инструменту AI Hub также можно ставить такие задачи, как, например, определить рак поджелудочной железы с описанием: «изучить КТ/МРТ брюшной полости/adb+plv и сделать прогноз с обоснованием того, указывает ли отчет на наличие или подозрение рака поджелудочной железы или предракового заболевания поджелудочной железы». В AI Hub можно также загружать фотографии, аудио- и видеофайлы.
Впрочем, пациенты не горят желаниям получать ИИ-помощь. Отчет Pew Research за 2023 год показал, что 54% мужчин и 66% женщин заявили, что не хотели бы, чтобы ИИ участвовал в постановке им диагнозов и выдавал рекомендации по лечению.
Считается, что автоматизация ряда задач с помощью ИИ поможет предотвратить выгорание медицинских работников, а также решить вопрос нехватки специалистов. Однако существует также вопрос рисков кибербезопасности, связанных с размещением данных пациентов в сети, даже если это закрытая система
👁️
Источник: https://www.404media.co/northwell-health-ai-hub-tool-chatgpt-doctors/
