(prétendument) faire passer le profit avant les patients ? Quel choc.
Une patate chaude : Dans une autre histoire sur les effets néfastes d’une intelligence artificielle défectueuse, la plus grande compagnie d’assurance maladie aux États-Unis, UnitedHealthcare, est poursuivie en justice pour avoir prétendu utiliser un modèle d’IA défectueux. Le système aurait refusé à tort la couverture santé aux patients âgés en état critique et aurait été en désaccord avec les décisions des médecins.
Le procès intenté devant le tribunal de district américain du district du Minnesota concerne les successions de deux hommes aujourd’hui décédés qui avaient besoin de soins de longue durée dans des établissements de soins post-aigus. Les familles de ces hommes ont été contraintes de payer de leur poche un total de 210 000 $ pour leur thérapie et leurs soins avant leur décès.
La poursuite allègue que UnitedHealth a refusé à plusieurs reprises et à tort de payer les demandes de soins de santé des deux personnes âgées, qui utilisaient les plans Medicare Advantage. Il ajoute que de tels incidents se produisent depuis au moins 2020, lorsque UnitedHealthcare a acquis la société de gestion des soins post-aigus Navihealth.
Le procès faisait suite à une enquête de Stat News sur l’utilisation d’un algorithme d’IA appelé nH Predict développé par Navihealth. L’algorithme est utilisé pour anticiper la durée pendant laquelle les patients resteront en cure de désintoxication à la suite de blessures, de maladies ou d’événements aigus. Les soins post-aigus incluent les maisons de retraite et les centres de réadaptation. Pour ce faire, l’algorithme aurait examiné une base de données de cas médicaux de 6 millions de patients et estimé les besoins médicaux et la durée du séjour d’un patient.
Le procès allègue que le système d’IA a un taux d’erreur de 90 % et a annulé les avis des médecins en matière de soins post-aigus. En outre, NH Predict n’a pas pris en compte les besoins individuels des patients, tels que les comorbidités (avoir plusieurs conditions ou maladies) et contracter une maladie pendant son séjour dans un établissement.
Une autre section accablante de la poursuite affirme que même si seuls quelques patients ont fait appel des refus de couverture basés sur les estimations de NH Predict, plus de 90 % d’entre eux ont été annulés par le biais de processus d’appel internes ou de procédures devant un juge administratif fédéral.
« Dans le cadre des plans Medicare Advantage, les patients qui séjournent trois jours à l’hôpital ont généralement droit à jusqu’à 100 jours dans une maison de retraite », indique le procès, citant l’enquête de Stat. « Grâce à l’utilisation du modèle nH Predict AI, (UnitedHealthcare) a interrompu le paiement en une fraction de ce temps. Les patients restent rarement dans une maison de retraite plus de 14 jours avant de commencer à recevoir des refus de paiement. »
D’anciens employés de NaviHealth ont déclaré à Stat qu’une fois que UnitedHealth a pris le relais, l’objectif était passé d’aider les patients à gagner de l’argent et à maintenir les délais de soins post-aigus aussi courts que possible.
Le directeur de UnitedHealth supervisant NaviHealth, Patrick Conway, a été cité dans un podcast de l’entreprise disant : « Si (les gens) vont dans une maison de retraite, comment pouvons-nous les faire sortir le plus rapidement possible ?
nH Predict est toujours utilisé aujourd’hui. Optum Health, filiale d’UnitedHealth, a déclaré à Ars Technica : « L’outil de prévision NaviHealth n’est pas utilisé pour déterminer la couverture. L’outil est utilisé comme guide pour nous aider à informer les prestataires, les familles et autres soignants sur le type d’assistance et de soins dont le patient peut avoir besoin. à la fois dans l’établissement et après le retour à la maison. Les décisions de couverture sont basées sur les critères de couverture du CMS et les conditions du plan du membre. Ce procès n’a aucun fondement et nous nous défendrons vigoureusement.
