Необходимо признать наличие неустранимых конфликтов интересов. Производители, которые разрабатывают и продают

SaMD (программное обеспечение как медицинское изделие), имеют сильный финансовый интерес в позитивном представлении своих продуктов. Таким образом, конфликты интересов возникают, если они финансируют, проводят и публикуют результаты

исследований, включая те, в которых могут быть сообщены недостатки их продуктов. Многие из опубликованных работ в области скрининга диабетической ретинопатии на основе ИИ, особенно те, в которых использовались алгоритмы с маркировкой CE и одобрением FDA, были проведены производителями или владельцами патентов.

Следует также помнить, что алгоритмы ИИ могут быть спроектированы для работы неэтичными способами. Например, программное обеспечение Greyball компании Uber позволяло компании выявлять и обходить местные нормативные акты, а алгоритм Volkswagen позволял автомобилям проходить тесты на выбросы, снижая их

выбросы оксида азота во время тестирования. Алгоритмы ИИ могут быть настроены на извлечение повышенной прибыли для их владельцев путем рекомендации определенных препаратов, тестов или тому подобного без ведома клинических пользователей. Системы ИИ уязвимы для кибератак, которые могут привести к неправильной классификации медицинской информации их алгоритмами [³¹].

Семь основных

факторов проектирования ИИ для общественного блага были предложены Floridi et al. (Таблица 1.5) [³⁸]. Авторы предлагают фальсифицируемость в качестве важного фактора повышения надежности технологического применения, т. е. для того, чтобы

SaMD (программное обеспечение как медицинское изделие) было надежным, его безопасность должна быть фальсифицируемой. Критические требования к устройству для его полноценного функционирования должны быть определены и должны быть проверяемыми. Если фальсифицируемость невозможна, то критические

требования не могут быть проверены, и система не должна считаться надежной [³⁸].

Основные

Факторы проектирования ИИ для общественного блага

способность людей семантизировать (то есть придавать смысл и осмысливать) что-либо | Автономия |

Источник: Floridi L, Cowls J, King TC, Taddeo M. How to Design AI for Social Good: Seven Essential Factors. Sci Eng Ethics. 2020 Jun;26(3):1771–1796. Springer

Одним из аргументов в пользу медицинских устройств на базе ИИ

устройств заключается в том, что они могут снизить медицинские расходы и исключить ненужные процедуры. Исследование из Сингапура показало, что полуавтоматизированная модель, сочетающая систему глубокого обучения (DL) с оценкой специалистом, обеспечила наилучшую экономическую отдачу, что привело к экономии в 19,5% при скрининге диабетической ретинопатии. В более раннем исследовании из Великобритании сообщалось об экономии средств в размере 12,8–21,0%; однако простое сравнение между ними невозможно из-за различных моделей скрининга ДР в двух странах (двухэтапный скрининг в Сингапуре и трехэтапный скрининг в Великобритании), а также их различных систем классификации ДР. Авторы обоих исследований утверждали, что полуавтоматизированная система обеспечивает большую экономию, чем полностью автоматизированная, за счет более низкого уровня ложноположительных результатов и отсутствия ненужных визитов к специалисту [³⁹, ⁴⁰].

Цель данной книги — предоставить офтальмологам, другим специалистам по зрению и исследователям

обзор текущих исследований в области применения ИИ в офтальмологии. Вместе с командой международных экспертов из Европы, Северной Америки и Азии мы представляем обзор наиболее важных документальных исследований в офтальмологии по технологиям машинного обучения (ML) и ИИ, а также их преимуществам. Мы обсудили использование ИИ в диагностике некоторых заболеваний сетчатки и роговицы, диагностику врожденной катаракты, нейроофтальмологию, глаукому, методы расчета интраокулярных линз, окулярную онкологию, сортировку пациентов в офтальмологии, обучение хирургии катаракты, рефракционную хирургию, а также оценку и прогнозирование системных заболеваний с помощью исследования глаза. Главы по анализу цифровых изображений, основам ИИ и техническим аспектам ИИ дают читателю знания, которыми обычно не обладают офтальмологи, но которые необходимы для понимания темы как в ее

узкоспециальном, так и в более широком контекстах. Очень важная глава о безопасности и эффективности ИИ описывает проблемы, с которыми столкнется офтальмология при внедрении и широком распространении этой технологии. Хотя мы охватили все основные области технологий ИИ/ML в офтальмологии, исследования в этой области продвигаются так быстро, что некоторые новые концепции, появившиеся в конце 2020-го и начале 2021 года, не отражены на этих страницах. Однако доказательная медицина часто требует от нас ожидания дополнительных доказательств для подтверждения ранних отчетов и оценки реальной ценности новых медицинских технологий или приложений. Я хотел бы поблагодарить всех авторов за то, что они поделились своими знаниями в этой новой и увлекательной дисциплине, которая обладает огромным

потенциалом изменить офтальмологию.

Благодарности

Я хотел бы поблагодарить Александру Леманик из Фонда развития офтальмологии (Познань, Польша) и Томаша Кживицкого с факультета математики и информатики Университета Вармии и Мазур (Ольштын, Польша) за помощь в подготовке иллюстраций, а также Шимона Вилка с факультета информатики и телекоммуникаций Познанского технологического университета (Познань, Польша) за ценное обсуждение данной главы.

Список литературы