НИУ ВШЭ создала инструмент для мониторинга ИИ-технологий в сфере медицины.

Устремительный рост применения технологий искусственного интеллекта в различных областях, включая медицину, приводит к возникновению новых рисков, касающихся не только информационной безопасности, экономики и социальных вопросов, но и этических дилемм. Существующие стандарты и текущая регуляция недостаточно учитывают этические аспекты, что обусловливает необходимость разработки специализированного инструмента для оценки ИИ-систем.

Команда проекта «Этическая экспертиза в сфере ИИ» Центра ИИ НИУ ВШЭ выполнила комплексное исследование, состоящее из двух этапов: теоретического и практического. Вначале исследователи, проанализировав множество как отечественных, так и международных документов, выделили и определили ключевые принципы профессиональной медицинской этики. К ним относятся автономия, благодеяние, справедливость, ненанесение вреда и забота. Затем было проведено качественное полевое исследование среди врачей и разработчиков ИИ, что позволило уточнить эти принципы и добавить новые, применяя методику глубинного полуструктурированного интервью.

В результате исследования был создан чат-бот «Индекс этичности систем искусственного интеллекта в медицине», который работает круглосуточно, предоставляя возможность проводить самооценку и получать мгновенную обратную связь от разработчиков индекса. Методика оценки представляет собой тест с закрытыми вопросами, направленный на оценку уровня осведомленности как разработчиков медицинского ИИ, так и пользователей ИИ-систем о потенциальных этических рисках, связанных с разработкой, внедрением и использованием ИИ в медицинских целях.

Новая методика уже прошла апробацию и получила признание ряда ведущих IT-компаний, таких как MeDiCase и Globus IT, которые специализируются на разработке ИИ-решений для медицины. Кроме того, ее одобрила Комиссия по реализации Кодекса этики в сфере искусственного интеллекта и Московское городское научное общество терапевтов.

«Создание данного индекса стало важным шагом на пути к этичному использованию ИИ в медицине. Мы надеемся, что наша разработка окажется полезной для медицинского сообщества, которое, как показывают наши исследования, обеспокоено возможными негативными этическими последствиями широкого внедрения ИИ в медицинскую практику», — подчеркивает руководитель проекта, профессор, заместитель директора Центра трансфера и управления социально-экономической информацией НИУ ВШЭ Анастасия Углева.

Ожидается, что индекс будет востребован этическими комиссиями, судебно-медицинским экспертным сообществом и другими организациями, занимающимися оценкой и сертификацией ИИ. Он также будет способствовать переходу от принципа индивидуальной ответственности медицинского работника к модели распределенной ответственности всех участников процесса. Внедрение этого индекса поможет сделать использование ИИ более безопасным и соответствующим высоким этическим стандартам.

Методические рекомендации «Индекс этичности систем искусственного интеллекта в медицине» зарегистрированы в НИУ ВШЭ как результат интеллектуальной деятельности.