Расовий упередженість у інструментах прийняття медичних рішень

Расовий упередженість у медичній допомозі може проявлятися у несподіваних місцях. Один із прикладів — клінічні інструменти прийняття рішень, які відіграють важливу роль у тому, як сьогодні тестують, діагностують і лікують пацієнтів.

Ці інструменти містять алгоритми або покрокові процедури, зазвичай комп’ютеризовані, для обчислення таких факторів, як ризик серцевих захворювань, необхідність зробити рентген грудної клітки та дозування лікарських препаратів. Штучний інтелект може бути використаний для аналізу медичних записів і систем обліку для створення необхідних наборів даних.

Зовні це може здаватися об’єктивним. Але дослідження показали, що аналіз даних, який використовується в цих алгоритмах, може бути упередженим у важливих аспектах щодо певних расових і соціально-економічних груп. Це може мати безліч наслідків у плані кількості та якості медичної допомоги, яку отримують ці групи.

Основні висновки

• Медичні інструменти прийняття рішень відіграють значну роль у тому, як тестують, діагностують і лікують сучасних пацієнтів.
• На жаль, алгоритми, що використовуються цими інструментами, іноді можуть бути упередженими.
• Використання даних про медичні витрати для оцінки стану пацієнта може неправильно оцінити тяжкість хвороб бідних і меншин, коли низькі медичні витрати відображають відсутність доступу до медичної допомоги, а не відсутність потреби.
• Алгоритм індексу маси тіла (ІМТ), який використовується для діагностики пацієнтів як із надмірною вагою або ожирінням, створив атмосферу стигматизації ваги та недовіри між пацієнтами та лікарями, оскільки більше чорних жінок, ніж іспаномовних або білих, зараз класифікуються як з ожирінням.
• Вхідні дані та результати тепер починають перевірятися на расові, етнічні, дохідні, гендерні та вікові упередження, щоб виявити нерівності та виправити алгоритми.

Расова упередженість впливає на найхворіших пацієнтів

У 2019 році дослідження алгоритму, широко використовуваного у лікарнях і страховиках США для надання додаткової допомоги у медичному управлінні, показало систематичну дискримінацію проти чорних людей. Інструмент прийняття рішень рідше направляв чорних пацієнтів, ніж білих, до програм управління складними медичними потребами, коли обидві раси були однаково хворі.

Основною причиною упередженості було прив’язання алгоритму ризикових балів до медичних витрат за попередній рік. Передбачалося, що визначення пацієнтів із високими витратами допоможе ідентифікувати тих, хто має найбільші медичні потреби. Однак багато чорних пацієнтів мають менший доступ до медичної допомоги, менше можливостей платити за неї та меншу довіру до медицини, ніж білі, які мають таку саму хворобу. У цьому випадку їхні нижчі медичні витрати не точно відображали їхній стан здоров’я.

Програми управління доглядом використовують інтенсивний підхід, наприклад, телефонні дзвінки, домашні візити медсестер і пріоритетність візитів до лікаря для вирішення складних потреб найхворіших пацієнтів. Доведено, що ці програми покращують результати, зменшують кількість викликів швидкої допомоги та госпіталізацій, а також знижують медичні витрати. Оскільки самі програми є дорогими, їх призначають людям із найвищими ризиковими балами. Техніки оцінки, що дискримінують найхворіших чорних пацієнтів, можуть суттєво підвищити їхній ризик смерті від багатьох хвороб.

Расовий фактор у хворобі нирок

Алгоритми можуть містити упередженість і без врахування раси як змінної, але деякі інструменти навмисно використовують расу як критерій. Візьмемо, наприклад, оцінку eGFR, яка визначає стан нирок і використовується для визначення потреби у пересадці нирки.

У дослідженні 1999 року, яке встановлювало критерії для оцінки eGFR, дослідники помітили, що у чорних людей рівень креатиніну (продукт розпаду м’язів) був у середньому вищим, ніж у білих. Вчені припустили, що це пов’язано з більшою м’язовою масою у чорних. Тому вони скоригували оцінку, що фактично означало, що чорні повинні мати нижчий бал eGFR, щоб діагностувати кінцеву стадію хвороби нирок. Внаслідок цього чорні мусили чекати, поки їхня хвороба нирок не досягне більш важкої стадії, щоб отримати лікування.

У 2018 році студентка медицини та громадського здоров’я з Університету Вашингтона у Сіетлі виявила, що оцінки eGFR не є точними для діагностики тяжкості хвороби нирок у чорних пацієнтів. Вона боролася за виключення раси з алгоритму і перемогла. У 2020 році медична служба UW погодилася, що використання раси є неефективною змінною і не відповідає науковій строгості у медичних діагностичних інструментах.

Важливо

У 2021 році спільна робоча група Національного фонду нирок і Американського товариства нефрології рекомендувала впровадити новий алгоритм eGFR 2021 CKD EPI для оцінки функції нирок без використання раси як змінної.

Індекс маси тіла та расова упередженість

Навіть найпростіший медичний інструмент, що не враховує расу, може відображати соціальні упередження. Наприклад, індекс маси тіла (ІМТ) базується на обчисленні, яке множить вагу на зріст. Його використовують для визначення недо- або надмірної ваги та ожиріння.

У 1985 році Національні інститути охорони здоров’я прив’язали визначення ожиріння до ІМТ, а у 1998 році експертна група встановила рекомендації на основі ІМТ, які перевели 29 мільйонів американців із раніше класифікованих як з нормальною вагою або просто з надмірною вагою у категорії ожиріння.

Сьогодні за стандартами ІМТ більшість чорних, іспаномовних і білих людей є з надмірною вагою або ожирінням. Але у 2021 році Центри контролю та профілактики захворювань (CDC) опублікували звіт, у якому зазначено, що відсоток американців, яких можна класифікувати як з ожирінням, залежить від расової або етнічної групи.

За даними CDC, серед дорослих у цілому розподіл був такий:

• Неіспаномовні чорні: 49,9%
• Іспаномовні: 45,6%
• Неіспаномовні білі: 41,4%
• Неіспаномовні азіати: 16,1%

Якщо розглядати жінок, класифікованих як з ожирінням, різниці стають ще більш значущими:

• Неіспаномовні чорні: 57,9%
• Іспаномовні: 45,7%
• Неіспаномовні білі: 39,6%
• Неіспаномовні азіати: 14,5%

Таке маркування великих груп населення як з надмірною вагою або ожирінням створило атмосферу стигматизації ваги та недовіри між пацієнтами і лікарями. Люди з більшою вагою скаржаться, що лікарі не враховують їхні проблеми або занепокоєння, які привели їх на прийом. Замість цього лікарі звинувачують вагу пацієнта у його проблемах зі здоров’ям і пропонують схуднення як рішення. Це сприяє тому, що багато чорних і іспаномовних пацієнтів уникають медичних працівників і, можливо, пропускають можливості запобігти проблемам або виявити їх на ранніх стадіях.

Крім того, стає все більш очевидним, що надмірна вага або ожиріння не завжди є проблемою здоров’я. Рівень деяких серйозних захворювань, таких як серцеві хвороби, інсульт, цукровий діабет другого типу та деякі види раку, вищий серед тих, хто має ожиріння. Але в окремих випадках, наприклад, після серцевої операції, надмірна вага або помірне ожиріння (але не морбідне) пов’язане з кращими показниками виживання.

Нові рекомендації щодо ожиріння для канадських лікарів, опубліковані у серпні 2020 року, наголошують, що лікарі повинні припинити покладатися лише на ІМТ при діагностиці. Людей слід вважати ожирілими лише тоді, коли їхня вага впливає на фізичне здоров’я або психічний стан, згідно з новими рекомендаціями. Лікування має бути цілісним і не зосереджуватися лише на схудненні. У рекомендаціях також зазначено, що «люди, які живуть з ожирінням, стикаються з суттєвою упередженістю та стигматизацією, що сприяє підвищенню захворюваності та смертності незалежно від ваги або індексу маси тіла».

Розгляд ІМТ може бути замінений іншими мірками, наприклад, обхватом талії. А сама концепція ожиріння може бути переосмислена. У січні 2025 року група з 58 дослідників запропонувала нове визначення, яке зосереджуватиметься не на ІМТ, а на надлишковому жирові та його впливі на здоров’я. Вони запропонували дві категорії ожиріння: препатологічне — коли у людини є надлишковий жир, але органи функціонують нормально, та клінічне — коли надлишковий жир шкодить тканинам і органам.

Зменшення упередженості у інструментах прийняття рішень

Медичні алгоритми — не єдині алгоритми, які можуть бути упередженими. Як зазначено у статті 2020 року у The New England Journal of Medicine, «Ця проблема не є унікальною для медицини. Наприклад, система кримінального правосуддя використовує інструменти прогнозування рецидиву для керівництва рішеннями щодо розміру застави та термінів ув’язнення». Автори зазначили, що один із широко використовуваних інструментів, «хоч і не використовує расу безпосередньо, використовує багато факторів, що корелюють із расою, і повертає вищі ризикові бали для чорних обвинувачених».

Зростаюче застосування штучного інтелекту (ШІ), зокрема машинного навчання, також викликає питання щодо упередженості за расовою ознакою, соціально-економічним статусом та іншими факторами. У сфері охорони здоров’я машинне навчання часто базується на електронних медичних записах. Бідні та меншинні пацієнти можуть отримувати розірваний догляд і бути обстеженими у кількох закладах. Вони частіше потрапляють у навчальні клініки, де введення даних або клінічне мислення може бути менш точним. Також вони можуть не мати доступу до онлайн-порталів пацієнтів і документування результатів. Внаслідок цього записи цих пацієнтів можуть містити пропущені або помилкові дані. Алгоритми, що керують машинним навчанням, можуть випадково виключати бідних і меншинних пацієнтів із наборів даних і необхідної допомоги.

Хороша новина полягає в тому, що за останні кілька років зросла обізнаність щодо упереджень у медичних алгоритмах. Вхідні дані та результати тепер перевіряють на расові, етнічні, дохідні, гендерні та вікові упередження. Медичні професійні товариства у США визнають шкоду, спричинену расовою медициною, і рухаються до виключення врахування раси у клінічних алгоритмах. Коли виявляються нерівності, алгоритми та набори даних можна переглянути для досягнення більшої об’єктивності.

Що таке алгоритм?

Немає єдиного законодавчого або наукового визначення алгоритму, але Національний інститут стандартів і технологій визначає його як «чітко визначений математичний процес для обчислень; набір правил, дотримуючись яких, можна отримати передбачений результат».

Приклад алгоритму

У найширшому розумінні алгоритм — це просто покроковий процес для відповіді на питання або досягнення бажаного результату. Наприклад, рецепт торта є формою алгоритму. У світі фінансів автоматизована торгова система також є прикладом.

Що таке машинне навчання?

IBM, піонер у цій галузі, визначає машинне навчання як «підмножину штучного інтелекту (ШІ), що зосереджена на алгоритмах, які можуть “вчитися” за шаблонами навчальних даних і, згодом, робити точні висновки щодо нових даних».

Підсумок

Незважаючи на їхній вигляд безсторонньої об’єктивності, алгоритми, які використовують медичні фахівці для прийняття певних рішень, можуть бути схильними до упереджень за расовою, класовою та іншими ознаками. Тому алгоритми не можна просто приймати на віру — вони мають піддаватися суворому аналізу. Як зазначено у статті 2021 року у MIT Technology Review, «Термін “алгоритм”, незалежно від його визначення, не повинен бути щитом, що звільняє людей, які розробили і впровадили будь-яку систему, від відповідальності за наслідки її використання».