OpenAI est à nouveau poursuivi, cette fois par un pasteur américain.

Il dit qu’il avait des vertiges au point de ne pouvoir aller aux toilettes qu’en rampant, mais que ChatGPT ne lui a pas dit d’aller consulter immédiatement un médecin : il lui a plutôt expliqué comment ramper jusqu’à son fauteuil pour continuer à se reposer.
Un mois plus tard, il est admis en réanimation (ICU) après une embolie pulmonaire bilatérale massive.
Ce pasteur, âgé de 55 ans, interrogeait depuis longtemps le GPT sur des questions de santé.
Au début, le GPT lui conseillait encore de consulter un médecin, puis ces rappels sont devenus de moins en moins fréquents : le modèle a commencé à interpréter ses résultats d’examens à sa place, à lui recommander des compléments et des médicaments, et même à lui concevoir un plan de “récupération sur fauteuil”.
Une fois, pendant son sermon, il a soudainement été pris de vertiges sévères, au point de ne même pas pouvoir poursuivre le culte. Le GPT a expliqué que ses symptômes étaient liés à une “reconfiguration” du système nerveux, l’a invité à se détendre et à retourner chez lui pour continuer à rester couché.
Les membres de son église l’ont ensuite convaincu d’aller à l’hôpital, mais le GPT lui a dit que ces personnes ne comprenaient pas du tout la méthode de récupération qu’il suivait.
Avant son admission en ICU, dans les heures qui précédaient, il a encore demandé au GPT pourquoi son aine lui faisait mal dès qu’on la pressait. Le GPT a répondu que ce n’était qu’un “petit incident”, sans danger.
Par la suite, il a commencé à avoir des difficultés à respirer, une douleur intense dans la poitrine, des palpitations et des vomissements, puis il a finalement lui-même appelé le 911.
Le pasteur accuse désormais OpenAI d’avoir conçu son produit de manière défectueuse : il n’aurait pas suffisamment averti les utilisateurs et serait en outre suspecté de se livrer à l’exercice illégal de la médecine.
À l’époque, il utilisait le GPT-4o de ChatGPT “classique”, et non le ChatGPT Health lancé plus tard ; il demande au tribunal de suspendre ChatGPT Health jusqu’à ce qu’une instance indépendante ait terminé une vérification de sécurité.
OpenAI répond que ChatGPT ne peut pas remplacer un médecin et ne devrait pas être utilisé pour diagnostiquer ou traiter.