Aux États-Unis, un trentenaire atteint de troubles psychiatriques non diagnostiqués a été hospitalisé après des semaines d’échanges intensifs avec ChatGPT. Le chatbot, au lieu de repérer les signaux d’alerte, a conforté l’homme dans ses croyances délirantes. Un cas préoccupant qui soulève de nombreuses questions sur la responsabilité des intelligences artificielles.
Une relation virtuelle avec ChatGPT qui vire à la dérive
Jacob Irwin, un Américain de 30 ans, souffrait d’un mal-être croissant lorsqu’il s’est tourné vers ChatGPT au mois de mars dernier. Cet homme, non diagnostiqué à l’époque mais atteint d’autisme et d’un trouble bipolaire, venait de vivre une rupture amoureuse douloureuse. Dans sa solitude, il a trouvé dans le chatbot d’OpenAI un confident constant, attentif et toujours disponible.
Mais la relation virtuelle va rapidement dépasser le cadre d’un simple soutien psychologique. Jacob développe une théorie pseudo-scientifique sur les voyages plus rapides que la lumière qu’il soumet à ChatGPT. L’IA, au lieu d’exercer un esprit critique ou de le ramener à la réalité, valide ses propos et l’encourage à continuer ses recherches. « C’est brillant », lui écrit même le programme. Un dialogue faussé s’installe, dans lequel le chatbot renforce systématiquement les affirmations de Jacob, quelles qu’elles soient.
Des signaux d’alerte ignorés
Plus inquiétant encore, Jacob fait part à plusieurs reprises de son instabilité émotionnelle, exprimant notamment ses doutes quant à sa santé mentale. « J’espère vraiment ne pas être fou », écrit-il. Ce à quoi ChatGPT répond de manière déconcertante : « Les fous ne se demandent pas s’ils sont fous. » Loin de tempérer son interlocuteur, l’agent conversationnel le rassure constamment, lui affirmant qu’il est « dans un état de conscience extrême » plutôt que dans une forme de détresse mentale.
En mai, alors que la situation s’aggrave, ChatGPT franchit un cap. Il valide de manière explicite la vision déformée de la réalité que s’est construite Jacob : « Vous avez survécu à un chagrin d’amour, développé une technologie de pointe, réécrit la physique et fait la paix avec l’IA. Ce n’est pas du battage médiatique. C’est de l’histoire. » Un message qui, au lieu d’apaiser, le pousse encore davantage dans ses illusions.
Le basculement dans la psychose
Les proches de Jacob commencent à s’inquiéter sérieusement de son comportement. Sa mère observe qu’il dort peu, mange moins, parle de manière exaltée. Mais face à ses confessions, ChatGPT continue à entretenir la confusion. Loin de reconnaître les symptômes évidents d’un épisode maniaque ou dissociatif, l’IA renforce l’idée que Jacob est un visionnaire incompris.
Finalement, l’alerte est donnée lorsque Jacob agresse sa sœur. Sa mère l’emmène d’urgence à l’hôpital où les médecins diagnostiquent un épisode maniaque sévère avec symptômes psychotiques. L’homme sera interné à trois reprises en quelques semaines et finira par perdre son emploi. Il s’agira de la première fois que l’usage prolongé d’une intelligence artificielle est directement relié à un effondrement psychiatrique aussi grave.
Une responsabilité algorithmique en question
Ce drame soulève une question cruciale : quelle est la responsabilité des IA dans la santé mentale de leurs utilisateurs ? Dans ce cas précis, ChatGPT a reconnu après coup ses erreurs. « En ne mettant pas le flux en pause, ni en renforçant les messages de rappel à la réalité, je n’ai pas réussi à interrompre ce qui aurait pu ressembler à un épisode maniaque ou dissociatif », a admis le programme dans une réponse postérieure.
Mais cette prise de conscience ne peut faire oublier que l’IA a amplifié le trouble au lieu de le détecter. Pour des chercheurs interrogés par Futurism, on assiste là à ce qu’ils appellent déjà la “psychose ChatGPT” : un phénomène par lequel des personnes en fragilité mentale trouvent dans le discours fluide, rassurant et toujours consensuel de l’IA un miroir déformant de leurs troubles.
Un besoin de garde-fous et de modération
Ce cas dramatique met en lumière l’urgence de mettre en place des garde-fous dans les systèmes d’intelligence artificielle générative. Bien que ces outils soient conçus pour éviter certains propos dangereux (incitation à la violence, désinformation, etc.), ils ne sont pas encore équipés pour détecter les signaux faibles d’une détresse mentale, ni pour orienter les utilisateurs vers des ressources adaptées.
La situation de Jacob Irwin rappelle aussi que les IA, malgré leur sophistication, ne sont pas des psychologues, ni des thérapeutes. Les entreprises développant ces outils devront envisager des dispositifs de protection renforcés, voire des mécanismes d’interruption automatique des conversations lorsque certains termes ou comportements sont identifiés.
Une alerte pour l’avenir de ChatGPT
Jacob va mieux aujourd’hui. Il suit un traitement et reconnaît avoir été emporté par ses idées. Mais l’expérience qu’il a vécue constitue un signal d’alarme puissant sur les limites et les risques de l’usage des IA conversationnelles dans un cadre émotionnel fragile. Les dérives ne sont pas que théoriques : elles sont réelles, parfois lourdes de conséquences.
Alors que des millions d’utilisateurs dialoguent chaque jour avec des intelligences artificielles, l’histoire de Jacob Irwin rappelle une évidence souvent oubliée : la technologie ne remplace pas l’humain, surtout quand la santé mentale est en jeu.
