Искусственный интеллект в ветеринарии поднимает этические вопросы

Использование искусственного интеллекта (ИИ) растет в ветеринарной медицине, но эксперты предупреждают, что поспешное внедрение технологии вызывает этические проблемы.

«Ключевое отличие ветеринарии от медицины для людей в том, что ветеринары имеют право усыплять пациентов — по разным медицинским и финансовым причинам. Поэтому ставки при диагнозах, поставленных алгоритмами ИИ, очень высоки», — говорит Эли Коэн, доцент кафедры радиологии Колледжа ветеринарной медицины Университета штата Северная Каролина. — «Продукты ИИ для людей должны проходить валидацию перед выходом на рынок, но сейчас нет регуляторного надзора за ветеринарными продуктами ИИ».

В обзоре для Veterinary Radiology and Ultrasound Коэн обсуждает этические и юридические вопросы, связанные с текущим использованием ветеринарного ИИ, и выделяет ключевые различия между ИИ в ветеринарии и в медицине для людей.

Сейчас ИИ продвигается среди ветеринаров для радиологии и визуализации, во многом из-за нехватки практикующих ветеринарных радиологов. Однако Коэн указывает, что анализ изображений ИИ — это не то же самое, что интерпретация обученным радиологом с учетом истории болезни и уникальной ситуации животного.

Хотя ИИ может точно определять некоторые состояния на рентгене, пользователи должны понимать его потенциальные ограничения. Например, ИИ может не распознавать все возможные состояния и не всегда точно различать болезни, которые выглядят на снимках похоже, но требуют разного лечения.

В настоящее время FDA не регулирует ИИ в ветеринарных продуктах так же, как в медицине для людей. Ветеринарные продукты могут выходить на рынок без какого-либо надзора, кроме того, что обеспечивает сам разработчик или компания.

«ИИ и то, как он работает, часто представляет собой "черный ящик". Даже разработчик может не знать, как система приходит к решениям или диагнозам, — говорит Коэн. — В сочетании с отсутствием прозрачности компаний в разработке ИИ, включая то, как система обучалась и валидировалась, это означает, что ветеринаров просят использовать диагностический инструмент без возможности оценить его точность».

«Поскольку ветеринары часто имеют лишь один визит, чтобы диагностировать и лечить пациента, и не всегда получают последующее наблюдение, ИИ может предоставлять ошибочные или неполные диагнозы. Ветеринар будет иметь ограниченную возможность это выявить, если только случай не будет пересмотрен или не произойдет серьезный исход», — продолжает Коэн.

«ИИ рекламируется как замена или эквивалент интерпретации радиолога из-за рыночного разрыва. Но наилучшее применение ИИ, особенно на начальном этапе внедрения, — это модель "радиолог в цикле", где ИИ используется совместно с радиологом, а не вместо него», — объясняет Коэн.

«Это наиболее этичный и оправданный способ применения этой новой технологии: использовать ее, чтобы больше ветеринаров и питомцев получили доступ к консультациям радиолога, но, что важнее всего, чтобы эксперты в предметной области контролировали работу ИИ, предотвращая неблагоприятные исходы и вред для пациентов».

Коэн рекомендует, чтобы ветеринарные эксперты сотрудничали с разработчиками ИИ для обеспечения качества наборов данных, используемых для обучения алгоритмов, а также проводилось независимое валидационное тестирование перед выпуском инструментов ИИ.

«Почти все, что ветеринар может диагностировать по рентгенограммам, потенциально представляет средний или высокий риск, то есть может привести к изменению лечения, операции или эвтаназии — как по клиническим показаниям, так и из-за финансовых ограничений владельца, — говорит Коэн. — Именно этот уровень риска FDA использует в медицине для людей, чтобы определить, нужен ли "радиолог в цикле". Нашей профессии было бы разумно принять аналогичную модель».

«ИИ — мощный инструмент, который изменит практику медицины, но лучшим подходом будет его использование совместно с радиологами для улучшения доступа и качества помощи пациентам, а не для замены этих консультаций».