L'IA et la psychose : Ce qu'il faut savoir, ce qu'il faut faire

Alors que l'inquiétude grandit au sujet des chatbots en ligne et de la santé mentale, un expert met en garde contre les risques potentiels pour les personnes déjà vulnérables, en particulier les adolescents et les jeunes adultes. La possibilité de "parler" avec un outil d'IA qui renforce et récompense ce qu'une personne pense, ne remet pas en question ses hypothèses ou ses conclusions, et n'a aucun sens humain de la morale, de l'éthique, de l'équilibre ou de l'humanité, peut clairement créer des situations dangereuses, explique-t-il. Et plus les chatbots d'IA parviendront à simuler de vraies conversations et l'utilisation du langage humain, plus ils deviendront puissants. M. Taylor s'inquiète particulièrement des effets potentiels sur une personne déjà susceptible de développer une psychose en raison de son âge, de sa santé mentale sous-jacente ou de sa situation sociale.