ИИ-алгоритмы медтехники способны установить расу пациента по снимкам

Эксперты в сфере ИБ провели совместное исследование с представителями международного врачебного сообщества и пришли к выводу, что ИИ-алгоритмы, анализирующие результаты различных медицинских процедур, способны определить расовую принадлежность пациента.

По снимкам, полученным в ходе маммографических, рентгеновских и томографических исследований, современные системы могут точно установить расу обследуемого человека. Специалисты установили, что ИИ-алгоритмам не помеха даже сильные искажения снимка, делающие его непригодным для рассмотрения врачом. Эксперты уверены, что способность ИИ определять расу пациента по неразличимым для человека признакам может стать причиной развития дискриминации.

Собственно, учёным так и не удалось выяснить, как модель машинного обучения может устанавливать расовую принадлежность, однако медицинское сообщество уже выразило недовольство самим фактом существования подобной возможности.

На данный момент в США официально разрешены медицинские устройства, работающие на стандартных алгоритмах, которые не обучаются дополнительно и не модифицируются в связи с увеличением количества обрабатываемых данных.

С другой стороны, международное сообщество подчёркивает, что даже разрешённые алгоритмы не проходили тестирование на предмет точности работы со снимками, принадлежащими представителям разных рас.