На заседании комиссии Кнессета по вопросам здравоохранения во вторник, 5 мая, обсуждалась тема использования технологий искусственного интеллекта (ИИ) в системе здравоохранения, в частности — риски, связанные с медицинскими ошибками, вызванными чрезмерной или некорректной зависимостью от ИИ. Комиссия потребовала от Министерства здравоохранения создать рабочую группу и провести анонимный опрос среди врачей о масштабах использования ИИ, включая платформы вроде ChatGPT.
Депутаты выразили обеспокоенность быстрым ростом использования ИИ в работе врачей, их опасения частично подтвердили специалисты, но при этом отметили и пользу от новой технологии.
«Мы обязаны оглянуться назад и убедиться, что качество израильской медицины и здоровье граждан не пострадают из-за поспешной интеграции новых технологий», - заявил председательствующий на комиссии депутат Рон Кац.
Профессор Йосеф Перес, бывший директор больницы «Шнайдер» и президент организации «Лемаанхем», заявил, что чрезмерное использование ИИ в диагностике и лечении ведет к серьезным ошибкам. По его словам, эффективность лечения зависит от множества индивидуальных факторов — возраста, пола, веса, медицинской истории пациента и его семьи, стадии заболевания и т.д. Отсутствие этих данных приводит к ошибкам в выводах ИИ.
Он привёл исследование, согласно которому в 20% случаев ИИ давал более точные ответы, чем врачи, но в остальных 80% — наоборот.
Более того, оказалось, что ИИ часто «придумывает» несуществующие прецеденты и повторяет это снова и снова. Исследования показали, что 66% врачей не смогли распознать критические и потенциально смертельно опасные ошибки ИИ. Об этом сообщил доктор Гади Нойман, бывший заместитель директора больницы «Бейлинсон», он также добавил, что у ИИ есть фундаментальный недостаток — неспособность объяснить свои рекомендации. Это делает невозможным последующее лечение и назначение препаратов.
Доктор Йосеф Вольфиш, председатель комиссии по этике Израильской медицинской ассоциации, сообщил, что в настоящее время разрабатываются этические нормы использования ИИ: «С одной стороны, у ИИ есть потенциал для получения пользы, с другой — высокий риск ошибок. Врач обязан сообщать пациенту, если рекомендации получены от ИИ».
За процессом наблюдают в министерстве здравоохранения - Лирон Зоар, заместитель главы технологического отдела Минздрава, отметила, что внедрение ИИ сопровождается еженедельным мониторингом, и она успокоила, заявив, что пока не зафиксировано ни одного аномального случая, связанного с ИИ, однако темп развития технологий требует постоянной критической оценки.
В результате обсуждения Комиссия постановила, что Министерство здравоохранения должно создать рабочую группу с участием врачей из больниц и касс, а также представителей комиссии по этике. Эта группа разработает руководящие принципы для использования ИИ в медицине и, при необходимости, предложит новые регуляции. Также министерству поручено провести анонимный опрос среди врачей по поводу использования ИИ, включая ChatGPT, и выяснить, информируют ли они пациентов об использовании таких инструментов.