В здоровом теле здоровый ИИ

Фото: dennizn/ru.123rf.com

Всемирная организация здравоохранения (ВОЗ) разработала принципы для регулирования искусственного интеллекта (ИИ) в сфере здравоохранения.

Организация пишет, что быстрое развитие ИИ оказывает серьезнейшее влияние на отрасль: он помогает повысить качество клинических испытаний и усовершенствовать качество медицинских диагнозов, пациентам дает возможность оказывать самим себе медицинскую помощь, а медицинским работникам — углубить свои знания.

Кроме того, ИИ можно эффективно применять в регионах, где не хватает медицинских специалистов. К примеру, он может заменить медиков в интерпретации сложных медицинских изображений, таких как результаты сканирования сетчатки. Однако быстрое внедрение технологий искусственного интеллекта, включая так называемые большие языковые модели — нейросети, вызывает серьезную обеспокоенность.

Если применять эти технологии бесконтрольно, они могут нанести вред конечным пользователям, включая как медицинских работников, так и пациентов. «Искусственный интеллект открывает огромные возможности в области охраны здоровья, но и порождает серьезные проблемы, такие как нарушения этических принципов при сборе данных, возникновение угроз кибербезопасности и распространение ошибок и дезинформации», — отметил генеральный директор ВОЗ Тедрос Адханом Гебрейесус.

Системы искусственного интеллекта получают доступ к конфиденциальной и личной информации, и, чтобы ее защитить, необходимо создать надежную нормативно-правовую базу, чего и хочет добиться ВОЗ. В частности, организация выделила шесть направлений, по которым должно осуществляться регулирование.

1. Прозрачность и тщательное документирование. Чтобы сохранить доверие к ИИ, необходимо внимательно отслеживать процесс разработки таких технологий и иметь записи по каждому этапу. Никакие данные в ходе создания таких технологий не должны оставаться секретными.

2. Комплексное управлен...