Одной из многих проблем в области ИИ является определение того, что представляет собой доказательство воздействия и

пользы медицинских изделий с ИИ и кто должен оценивать эти доказательства [²]. Большинство исследований ИИ проводятся в экспериментальных условиях и на основе предварительно отобранных данных. Они могут дать недостаточное представление об использовании приложений ИИ в неоднородных условиях реального медицинского обслуживания.

Lee и др. протестировали семь алгоритмов, используемых в клинической практике по всему миру, включая один с

одобрением Управления по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) и четыре, разработчики которых подали заявки на одобрение FDA. Они обнаружили, что большинство этих алгоритмов работали в реальных ситуациях хуже, чем в экспериментальных: только у трех из семи и одного из семи алгоритмов чувствительность и специфичность были сопоставимы с показателями экспертов-людей соответственно. Только один алгоритм работал так же эффективно, как эксперты-люди [¹¹]. Другой из протестированных алгоритмов работал значительно хуже экспертов-людей при всех уровнях тяжести ДР — он пропустил 25,58% случаев запущенной ретинопатии, что могло иметь серьезные последствия. Одной из потенциальных опасностей клинического использования алгоритмов, выявленных в данном исследовании, был риск применения алгоритма, обученного на определенной демографической группе, к популяции, которая отличается по таким факторам, как этническая принадлежность, возраст и пол. Более того, многие

исследования алгоритмов, разработанных с помощью

ИИ, исключали изображения низкого качества, рассматривая их как не подлежащие оценке, а также пациентов с сопутствующими заболеваниями глаз, что делает их менее отражающими условия реального мира.

Исследование Lee и др. показывает важность и ограничения процесса регистрации медицинских изделий на базе ИИ. Регистрация в FDA

регистрация

основана на централизованной системе, в которой отсутствует конкретный, легкодоступный регуляторный путь для медицинских изделий на базе ИИ. FDA одобряет медицинские изделия тремя путями: путем предпродажного одобрения (premarket approval), путем предпродажного рассмотрения de-novo и путем 510(k) [¹², ¹³]. Ведущими дисциплинами ИИ в медицине являются радиология, кардиология, внутренняя медицина/эндокринология, неврология, офтальмология, неотложная помощь и онкология. Количество одобрений FDA для медицинских изделий на базе ИИ неуклонно росло в последние годы; их было 9 в 2015 году, 13 в 2016 году, 32 в 2017 году, 67 в 2018 году и 77 в 2019 году, при этом большинство устройств предназначены для использования в радиологии, кардиологии и неврологии [¹²]. Интересно, что 85% одобренных FDA медицинских изделий в период с 2015 по 2019 годы были предназначены для использования специалистами здравоохранения и только 15% — для использования пациентами. Наиболее известными одобренными FDA медицинскими изделиями на базе ИИ в области офтальмологии являются IDx-DR (2018), первое программное обеспечение, позволяющее принимать решения о скрининге, которые не требуют интерпретации врачом, и Eyenuk (2020), которое, подобно

, проводит скрининг диабетической ретинопатии.

В Европейской экономической зоне, которая включает страны Европейского союза (ЕС) и членов Европейской ассоциации свободной торговли (ЕАСТ)

(Исландию, Лихтенштейн, Норвегию и Швейцарию), медицинские изделия одобряются децентрализованно.

Маркировка Conformité Européenne (CE) указывает на соответствие стандартам ЕС в области здравоохранения,

безопасности и охраны окружающей среды. Для медицинских изделий с самым низким уровнем риска (класс CE I) производитель гарантирует соответствие продукта нормативным требованиям, и процедура одобрения не требуется. Процедура регистрации медицинских изделий с более высоким уровнем риска (классы CE IIa, IIb и III) осуществляется частными организациями, называемыми нотифицированными органами, которые аккредитованы для оценки устройств и присвоения маркировки CE.

Тринадцать

медицинских изделий на базе ИИ с маркировкой CE были одобрены в 2015 году, 27 в 2016 году, 26 в 2017 году, 55 в 2018 году и 100 в 2019 году. Большинство из них были разработаны для использования в радиологии, общей госпитальной помощи, кардиологии, неврологии, офтальмологии (12 устройств) и патологии, и большинство из них относились к устройствам класса IIa (40%), класса I (35%) или класса IIb (12%) [¹²]. Из устройств на базе ИИ, получивших маркировку CE в период с 2015 по 2019 годы, 124 (52%) также были одобрены FDA, что составило 56% от всех инструментов на базе ИИ, одобренных FDA за этот период. Крупные компании с большей вероятностью получали оба одобрения, в то время как более мелкие компании чаще получали только маркировку CE. Авторы этого исследования предположили, что европейская система одобрения

была менее строгой, чем американская. Этот вывод подтверждается отчетом FDA о 12 устройствах, которые получили только одобрение CE, а позже оказались небезопасными или неэффективными [¹³, ¹⁴]. Основной проблемой при изучении устройств с маркировкой CE в Европейской экономической зоне является отсутствие общедоступного реестра одобренных устройств, сопоставимого с реестром FDA. Более того, информация, предоставляемая нотифицированным органам, является конфиденциальной. В 2022 году заработает новая европейская база данных по медицинским изделиям (Eudamed), предоставляющая актуальную картину жизненного цикла медицинских изделий. Она будет состоять из шести модулей, включая регистрацию участников, уникальную идентификацию устройств (UDI), регистрацию устройств, нотифицированные органы и сертификаты, клинические исследования и испытания эффективности, а также

надзор и мониторинг рынка [¹⁵].

Обучение алгоритмов глубокого обучения (DL) требует больших наборов данных с тысячами или даже сотнями тысяч разнообразных, хорошо сбалансированных и точно размеченных изображений [¹⁶].

Ресурсы, необходимые для исследования в области ИИ, представлены на рис. 1.6. Огромное количество необходимых изображений редко удается получить из отдельных центров; таким образом, они запрашиваются из репозиториев данных или центров, которые согласны поделиться данными. Растет потребность в консенсусе по стандартизированным определениям медицинских сущностей; соглашениям по форматированию данных; идентификации единиц измерения; протоколам очистки, гармонизации и валидации данных; стандартам обмена и повторного использования данных и обмена кодом, реализующим модели ИИ; а также внедрению открытых интерфейсов прикладного программирования (API) для моделей ИИ [¹⁷]. Это необходимо для обмена данными и открытого взаимодействия в области ИИ, что имеет решающее значение для проведения воспроизводимых исследований, необходимых до того, как технология ИИ

будет внедрена в здравоохранение.

Схематическое представление

ресурсов, необходимых для исследования в области ИИ

Kermany и др. использовали DL-анализ набора данных из

изображения оптической когерентной томографии для сортировки и диагностики хориоидальной неоваскуляризации, диабетического макулярного отека и друз. Они продемонстрировали эффективность, сопоставимую с эффективностью экспертов-людей, и обеспечили более прозрачный и интерпретируемый диагноз, выделяя области, распознанные нейронной сетью. Кроме того, они показали, что подход с использованием трансферного обучения дал лишь незначительно худшие результаты (двукратное увеличение ошибки по сравнению с полным набором данных), используя при этом примерно в 20 раз меньше изображений. Они также продемонстрировали более широкую применимость этого подхода, применив его для выявления педиатрической пневмонии по рентгеновским снимкам грудной клетки. Они предоставили свои данные и код в общедоступной базе данных, чтобы облегчить их использование другими биомедицинскими исследователями с целью улучшения

производительности будущих моделей [¹⁸].

Трансферное обучение (рис. 1.7 и 1.8) в последние годы использовалось для построения моделей классификации медицинских изображений, поскольку количество изображений, которые могут быть использованы для обучения, относительно мало по сравнению с количеством изображений, доступных для обучения общих моделей [¹⁹] (рис. 1.9). Другим подходом к удовлетворению потребности в больших аннотированных обучающих наборах данных может стать использование алгоритмов глубокого обучения (DL) с малым количеством примеров (low-shot DL).

Обучение с малым количеством примеров (Low-shot learning, LSL), также известное как few-shot learning, представляет собой тип

задач машинного обучения (ML), при которых обучающий набор данных содержит ограниченную информацию. Хорошо известно, что многие ситуации из реальной жизни, включая редкие заболевания (например, серпигинозную хориоретинопатию или ангиоидные стрии при псевдоксантоме эластики), а также нетипичные проявления или подтипы распространенных расстройств, подвержены предвзятости ИИ из-за нехватки или дисбаланса данных. Эти недостатки также могут привести к меньшей точности будущих моделей. При устранении такого рода предвзятости разделение данных по некоторым признакам пациентов (например, возрасту, полу и расе/этнической принадлежности) может привести к созданию более мелких наборов данных, которые могут быть недостаточными для обучения моделей для этих конкретных групп. Исследование Бурлины и др. показало, что эффективность широко используемых методов DL существенно снижалась при использовании ограниченных наборов данных, но методы LSL работали лучше и могут быть применены в диагностике сетчатки

в случаях, когда для обучения доступно ограниченное количество изображений сетчатки [²⁰].

Концепция

трансферного обучения.