Схема сверточной нейронной

сети и трансферного обучения

Схематическая диаграмма

трансферного обучения. Источник: Lingling Li et al*.* Diabetic retinopathy identification system based on transfer learning. 2020. J. Phys.: Conf. Ser. 1544 012133. https://​doi.​org/​10.​1088/​1742-6596/​1544/​1/​012133. Контент данной работы может быть использован на условиях лицензии Creative Commons Attribution 3.​0

Другим подходом, предложенным несколькими авторами для решения проблемы ограниченных наборов данных, является использование

генеративно-состязательных сетей (GAN)

для синтеза новых изображений из обучающего набора реальных изображений. GAN — это модели ML, которые могут генерировать новые данные с той же статистикой, что и обучающий набор (рис. 1.10). Например, GAN, обученная на фотографиях, может создавать фотографии несуществующих людей, которые выглядят так же достоверно, как реальные люди (рис. 1.11). Искусственные фотографии можно найти по адресу https://​thispersondoesno​texist.​com. Было предложено множество применений GAN, включая искусство, моду, рекламу, науку, видеоигры, однако возникли опасения по поводу злонамеренного использования, например, для создания фальшивых, возможно,

компрометирующих

, фотографий и видео.

Схематическое

представление

генеративно-состязательной сети (GAN)

Изображение молодой

женщины,

созданное StyleGAN, генеративно-состязательной сетью (GAN). Человека на этой фотографии не существует, он был создан искусственным интеллектом на основе анализа портретов. Источник: https://​commons.​wikimedia.​org/​wiki/​File:​Woman_​1.​jpg. Этот файл находится в общественном достоянии, поскольку, являясь результатом работы компьютерного алгоритма или искусственного интеллекта, он не имеет автора-человека, которому принадлежали бы авторские права

Burlina и др. использовали набор данных Age-Related Eye Disease Study, содержащий более 130 000 изображений глазного дна, для генерации аналогичного количества синтетических изображений с целью обучения моделей глубокого обучения (DL). Эффективность моделей

DL,

обученных на синтетических изображениях, была почти такой же, как и эффективность моделей, обученных на реальных изображениях [²¹]. Liu и соавт. показали, что 92% синтетических ОКТ-изображений обладали достаточным качеством для дальнейшей клинической интерпретации. Только около 26–30% синтетических изображений после терапии могли быть точно идентифицированы как синтетические (Рис. 1.8) [²²]. Точность моделей, обученных на синтетических изображениях, в прогнозировании влажного или сухого статуса макулы составила 0,85 (95% ДИ 0,74–0,95) [²²]. В исследовании Zheng и соавт. качество реальных и синтетических ОКТ-изображений было схожим по оценке двух специалистов по сетчатке. Точность дифференциации реальных и синтетических ОКТ-изображений составила 59,50% для специалиста по сетчатке 1 и 53,67% для специалиста по сетчатке 2. Для локального набора данных модель глубокого обучения (DL), обученная на реальных и синтетических ОКТ-изображениях, имела площадь под кривой 0,99 и 0,98 соответственно. Для клинического набора данных площадь под кривой составила 0,94 для реальной модели и 0,90 для синтетической [²³]. Эти исследования позволяют предположить, что

синтетические изображения могут быть использованы клиницистами в образовательных целях и для разработки алгоритмов DL [²⁴].

Важным и интересным вопросом является клиническое применение непрерывного машинного обучения (ML), т. е.

непрерывного обучения и развития на основе новых данных при сохранении ранее полученных знаний [²⁵]. Однако при реализации этой перспективной концепции существуют технические сложности, включая необходимость предотвращения интерференции между новыми и старыми данными, а также старыми и новыми знаниями. При феномене катастрофической интерференции получение новых данных может привести к резкому снижению эффективности алгоритма. Практическое применение инструментов ИИ в здравоохранении должно внедряться осторожно из-за существования таких рисков. Правила FDA требуют, чтобы одобренные FDA автономные алгоритмы были «заблокированы» в целях безопасности для предотвращения непредсказуемых изменений в будущем. Это требование, однако, направлено на обеспечение безопасности модели, а не на улучшение ее эффективности. Непрерывное обучение могло бы повысить эффективность алгоритмов машинного обучения за счет постепенного исправления и устранения ошибок. Потребуется рассмотреть вопрос о том, как эта

технология может быть безопасно внедрена в здравоохранение.

Будущее развитие

офтальмологии зависит от более качественного и, возможно, неограниченного доступа к медицинским данным, хранящимся в электронных медицинских картах. Однако этот доступ не должен ставить под угрозу конфиденциальность этих крайне чувствительных данных. Существует потребность в эффективном регулировании, которое установит баланс между индивидуальной защитой и общим благом. Одним из подходов к защите конфиденциальности и увеличению размера выборки является передача алгоритмов DL в местные учреждения для переобучения, но без передачи частных данных, использованных для создания алгоритмов. Этот подход «модель к данным», также известный как федеративное обучение, был протестирован в офтальмологии и показал свою эффективность [²⁶].

Согласно Национальному институту стандартов и

технологий США, биометрические данные, включая изображения сетчатки, являются персонально идентифицируемой информацией и должны быть защищены от ненадлежащего доступа. Хотя было показано, что модели ИИ способны диагностировать и определять стадию некоторых глазных заболеваний по фотографиям глазного дна, ОКТ и изображениям полей зрения, большинство алгоритмов ИИ тестировались на наборах данных, которые не вполне соответствовали реальным условиям. Популяции пациентов обычно были однородными, а изображения низкого качества и пациенты с множественными патологиями исключались. Необходимы будущие исследования для валидации алгоритмов на изображениях глаз гетерогенных популяций, включая снимки как хорошего, так и плохого качества. В противном случае мы можем столкнуться с ситуацией «хорошего ИИ, который стал плохим». Склонность к выбору только лучших результатов («cherry-picking») может еще больше ухудшить ситуацию. Алгоритмы ИИ могут вести себя непредсказуемо при применении в реальной жизни. Эффективность алгоритма может снизиться после внедрения из-за различий между условиями обучения и тестирования (сдвиг набора данных), вызванных, например,

использованием изображений, созданных другим устройством, чем то, что было в обучающем наборе, или собранных в другой клинической среде [²⁷–³⁰]. Более того, алгоритмы могут выдавать разные результаты в разное время при предъявлении схожих входных данных [³¹, ³²] — на них могут влиять незначительные изменения качества изображения или посторонние данные на снимке [³²–³⁵]. Все эти проблемы могут привести к ошибочному диагнозу и неверным рекомендациям по лечению, подрывая доверие к технологиям ИИ. Ошибка в системе ИИ может нанести вред сотням или даже тысячам пациентов.

В недавнем отчете Национальной академии медицины [³⁶] освещаются некоторые важные проблемы дальнейшего развития приложений ИИ в здравоохранении (Таблица 1.2). Ее авторы выступают за использование открыто доступных, стандартизированных, репрезентативных для популяции данных; решение явных и

скрытые предубеждения, связанные с ИИ; разработка и внедрение соответствующих программ обучения и образования для медицинских работников в целях поддержки ИИ в здравоохранении; а также баланс между инновациями и безопасностью посредством использования регулирования и законодательства для укрепления доверия.

Практические

трудности на пути развития и применения инструментов ИИ в клинических условиях