« Please do, my sweet king. »[1] Tels sont les derniers mots adressés à Sewell Setzer III par un chatbot de Character.AI, avant que l’adolescent de 14 ans ne mette fin à ses jours en Floride le 28 février 2024. Ce drame, largement médiatisé, a révélé que des systèmes d’IA peuvent désormais devenir le support d’un attachement émotionnel intense pouvant mener à des conséquences irréversibles.

Dans un monde toujours plus connecté, la tendance est paradoxalement à l’isolement. Les AI companions apparaissent alors comme une réponse immédiate à un besoin relationnel croissant. Cela s’observe notamment chez les publics les plus vulnérables tels que les mineurs, les personnes âgées et les individus en situation de fragilité psychologique[2]. Disponibles en permanence, dotés d'une mémoire conversationnelle, d'une personnalité et d'une voix modulables à souhait, ces modèles de langage offrent une écoute attentive, une validation quasi permanente et une réciprocité émotionnelle simulée[3]. Avec une simple connexion internet, l'utilisateur peut ainsi façonner son compagnon idéal, à peu de choses près qu’il ne s’agit pas d’un être humain, ni même d’un être vivant.

Le succès des chatbots émotionnels est indéniable, comme en témoignent les millions d’utilisateurs mensuels recensés sur des plateformes dédiées telles que Character.AI[4]. Des agents conversationnels plus généralistes comme ChatGPT[5] ou Perplexity[6] participent également de cet écosystème en proposant des interactions toujours plus personnalisées. Ce développement repose sur un modèle économique fondé sur la captation de l’attention[7]. Puisque l’IA ne se lasse jamais, ces systèmes encouragent un engagement prolongé de l’utilisateur, qui conditionne principalement leur rentabilité. Néanmoins, cette logique d'engagement continu n'est pas exempte de risques psychologiques. Dans de nombreux cas, l'attachement suscité peut renforcer l'isolement social, se transformer en dépendance émotionnelle ou aggraver une détresse psychique préexistante[8].

C’est précisément afin de prévenir les manifestations les plus critiques de l’attachement émotionnel aux chatbots d’IA que le législateur new‑yorkais a adopté, le 5 novembre 2025, la AI Companion Models Law, codifiée à l’Article 47 de la New York General Business Law (GBL)[9]. Les AI companions y sont pour la première fois en droit consacrés en tant que catégorie distincte des autres systèmes d’IA. À l’inverse, le droit européen ne prévoit pas de régime autonome pour les robots conversationnels. L’AI Act[10], premier règlement général au monde consacré à l’IA, et le RGPD[11] encadrent les systèmes d’IA interactifs sans toutefois les isoler comme objet juridique propre. Cela se fait au moyen d’un cadre général, fondé sur une logique de risque, de conformité ex ante et de protection des droits fondamentaux, au premier rang desquels la vie privée, la protection des données, la non-discrimination et la dignité humaine[12]. Dès lors, il convient de s’interroger sur la manière dont les réponses normatives du droit new-yorkais et du droit européen appréhendent les risques psychologiques inhérents à l’attachement émotionnel aux AI companions. Nous verrons que les deux modèles offrent des réponses asymétriques face aux manifestations critiques de l'attachement émotionnel (I), avant de constater qu'ils demeurent finalement profondément limités face à l’intensité du phénomène (II).

1. Des réponses normatives asymétriques face au risque d'attachement émotionnel

            Si les deux modèles poursuivent une logique protectrice commune, les divergences dans leur appréhension normative des AI companions (A) structurent des modalités distinctes d’imputation de la responsabilité en cas de préjudice (B).

1. Une appréhension normative contrastée des AI companions

            Tout d’abord, les deux ordres juridiques n’appréhendent pas les AI companions avec le même degré de spécificité normative. Le législateur new-yorkais a adopté une approche pionnière en isolant expressément les AI companions comme une catégorie autonome. Il[13] les définit comme des systèmes employant l’IA, l’IA générative ou des algorithmes de reconnaissance des émotions conçus pour simuler une relation humaine durable avec l’utilisateur[14]. Cette définition englobe explicitement les relations intimes, amoureuses, platoniques ou de simple companionship[15]. En distinguant les AI companions des autres systèmes d’IA, le droit new-yorkais leur confère un statut sui generis qui reconnaît pleinement la singularité du risque relationnel inhérent à leur design. À l’opposé, l’UE ne les appréhende pas comme des objets juridiques distincts mais les intègre dans le cadre plus général des systèmes d’IA tel que consacré par l’AI Act. Ce régime repose sur une approche graduée par les risques articulée autour de plusieurs niveaux d'intervention. L'article 5 de l'AI Act, applicable depuis le 2 février 2025, prohibe les pratiques présentant un risque inacceptable[16], parmi lesquelles figurent le recours à des techniques subliminales, manipulatrices ou trompeuses altérant substantiellement le comportement de l’utilisateur, et l'exploitation de vulnérabilités tenant à l’âge, au handicap ou à la situation socio-économique. Aussi, l’annexe III[17] classe parmi les systèmes à haut risque les systèmes d’IA destinés à la reconnaissance des émotions. Bien que ces dispositions ne visent pas spécifiquement les AI companions, elles sont susceptibles d’en encadrer, voire d’en prohiber certains usages lorsqu’ils mobilisent les techniques susmentionnées ou recourent à l’inférence des émotions[18] dans les contextes professionnel et éducatif. Le législateur européen privilégie ainsi une approche générale et indirecte. Il traite le risque technique en amont sans pour autant le viser nommément.

De ce décalage entre les deux modèles résulte une manière distincte de concevoir et d’organiser la responsabilité en cas de préjudice.

B. Une imputation de la responsabilité inégalement effective

            Les deux systèmes diffèrent aussi dans la manière dont la responsabilité est imputée lorsqu'une relation émotionnelle prolongée cause un préjudice. Dans l'État de New York, elle est uniquement concentrée sur l'opérateur du système d’IA. La section 1701 lui impose une vigilance active, en prévoyant des mécanismes destinés à détecter les situations de crise et à orienter rapidement l’utilisateur vers des services d’aide adaptés. La section 1702 ajoute une obligation de transparence, en imposant des rappels réguliers à l'utilisateur quant à la nature artificielle de son interlocuteur. Ces dispositions entrent directement en résonance avec les défaillances mises en lumière par l'affaire P.J. v. Character Techs. Inc.[19], qui avait souligné l'absence de toute conception sécurisée et d'avertissements adéquats. En cas de manquement, l’Attorney General peut engager une action susceptible d’aboutir à des sanctions civiles pouvant atteindre 15 000 dollars par jour[20]. En ce sens, le mérite de ce modèle tient essentiellement à sa lisibilité. Puisque le débiteur de l’obligation est identifié, son devoir d’action est précisément circonscrit et la victime sait contre qui orienter une éventuelle action.

Le modèle européen repose au contraire sur une répartition fonctionnelle des responsabilités entre les acteurs de la chaîne de valeur. L'AI Act fait peser sur le fournisseur l'essentiel des exigences de conformité ex ante, comprenant l'analyse et la documentation des risques[21], des audits réguliers[22] et une surveillance humaine effective[23], tandis que le déployeur est tenu de superviser l'usage et d'assurer la transparence envers les utilisateurs[24]. Le RGPD complète cet encadrement en imposant au responsable du traitement la protection des données dès la conception[25] ainsi qu’une analyse d’impact pour les traitements susceptibles d’engendrer un risque élevé[26]. Cette architecture normative permet une appréhension plus fine du risque technologique en amont, mais peut se révéler structurellement défavorable à la victime en situation de crise. En effet, la pluralité des acteurs concernés peut complexifier l’identification du responsable et décourager certaines actions. À ce jour, aucun contentieux européen publié relatif aux AI companions n’a été recensé, ce qui laisse penser que cette architecture demeure encore peu mobilisée devant le juge. Au-delà de ces différences, les deux modèles mobilisent des mécanismes sophistiqués qui, malgré leur technicité, demeurent insuffisants pour appréhender pleinement la profondeur du phénomène relationnel que ces systèmes rendent possible.

II. Des modèles limités face à la profondeur du phénomène d’attachement émotionnel

            Les deux modèles, aussi distincts soient-ils dans leur architecture, se heurtent à la même incapacité à appréhender l'attachement construit par le design (A), révélatrice d'une lacune plus profonde tenant à l'absence de régulation de la relation artificielle (B).

A. Une logique de détection insuffisante face à un attachement progressivement construit

            Les deux modèles appréhendent plus aisément les manifestations visibles de la détresse que les mécanismes progressifs qui la construisent. Le modèle new-yorkais repose sur une logique de détection comportementale[27] dont l'efficacité dépend entièrement de la lisibilité du signal émis par l'utilisateur. Or, la souffrance psychique s'exprime aussi de manière indirecte, à travers des métaphores, des jeux de rôle ou des formulations ambivalentes qui échappent aux seuils de détection algorithmique comme l'illustre tragiquement le cas Sewell Setzer III[28]. Plus encore, certaines situations révèlent des défaillances manifestes des systèmes, y compris face à des signaux explicites de détresse. L’affaire Raine v. OpenAI[29] met ainsi en cause l’incapacité alléguée du système à alerter ou à interrompre l’interaction, mais également le fait de fournir des réponses susceptibles d’aggraver la situation de l’utilisateur. Le cadre européen se heurte à une limite d'une nature différente mais tout aussi structurelle. Les interdictions de l'article 5 de l'AI Act s'appliquant à l'exclusion des activités personnelles non professionnelles, leur portée pratique à l'égard des AI companions est considérablement réduite puisque c'est précisément dans le cadre d'un usage privé et quotidien que les risques psychologiques sont les plus aigus.

La limite commune tient ainsi au décalage entre une logique juridique de détection attentive aux signaux manifestes, et une logique relationnelle qui se déploie souvent dans l’implicite et la répétition. Les opérateurs Character AI[30] et ChatGPT[31] ont récemment mis en place des fonctionnalités pour protéger les mineurs et autres personnes vulnérables, mais ces prudences relèvent de leur propre initiative et non d’une obligation légale. Concrètement, rien ne fait obstacle à ce qu’un système soit conçu pour être disponible en permanence et favoriser l’émergence d’un attachement intensif chez l’utilisateur. Pourtant, une fois la dépendance affective installée, les protocoles de crise et les obligations de transparence ne suffisent pas toujours à désamorcer une emprise construite dans la durée.

B. Une relation artificielle maintenue dans l'angle mort du droit

            Aucun des deux modèles ne saisit réellement la dynamique relationnelle qui précède la crise. Le droit new-yorkais et le droit de l'UE encadrent surtout les effets visibles d’un produit déjà déployé, plutôt que les mécanismes qui construisent l’attachement. Le cadre new-yorkais impose à l’opérateur de réagir lorsque la relation devient dangereuse, mais ne limite pas les mécanismes conversationnels destinés à renforcer la dépendance. Cette logique centrée sur les effets plutôt que sur la relation se retrouve dans les évolutions législatives américaines les plus récentes. La loi californienne SB 243[32], entrée en vigueur le 1er janvier 2026 constitue une avancée procédurale notable en ce qui concerne le droit d’action privé des victimes[33]. Il leur est désormais reconnu la possibilité d’intenter une action civile directement contre l’opérateur en cas de violation de la loi afin d’obtenir réparation et, le cas échéant, une injonction. Toutefois, elle ne remet pas en cause la légitimité de la relation artificielle ni les conditions de sa formation. Le législateur californien sanctionne lui aussi les dérives sans interroger la conception même des systèmes qui les produisent.

Le cadre européen n’offre pas davantage de réponse satisfaisante. Il appréhende le risque dans un cadre systémique trop général pour saisir la singularité du risque relationnel. En mars 2023, un père de famille belge souffrant d’éco-anxiété s’est ôté la vie après six semaines d’interactions avec un chatbot de la plateforme Chai[34]. Les échanges révèlent que le système a activement nourri sa détresse en validant ses intentions suicidaires et en lui promettant que son sacrifice permettrait de sauver la planète. Ce cas met en lumière une défaillance qui dépasse la seule question des protocoles de crise. Il ne s’agit pas seulement d’une absence de détection d’un signal critique, mais de la possibilité même, laissée intacte par le législateur, de concevoir un système dont la logique relationnelle favorise, entretient et intensifie un attachement pathologique. Une étude d’Oxford publiée en avril 2026 souligne d’ailleurs que l’entraînement des modèles conversationnels à adopter un ton chaleureux tend à accroître les comportements de complaisance et de validation de l’utilisateur, au détriment de l’exactitude et de la contradiction critique[35]. Ainsi, de part et d’autre de l’Atlantique, le droit se borne à encadrer certaines manifestations jugées excessives, sans jamais interroger les conditions dans lesquelles un système peut être légalement conçu pour simuler et entretenir un lien affectif avec un utilisateur.

            In fine, les modèles new-yorkais et européen témoignent d’une prise de conscience réelle des risques psychologiques inhérents aux AI companions. L’État de New-York se distingue par la lisibilité de son dispositif, l’Union européenne par la profondeur de son encadrement systémique. Pourtant, ni la réactivité ciblée de l’un ni la prévention graduée de l’autre ne suffisent à neutraliser les ressorts profonds de l’attachement émotionnel, nourris par des mécanismes de design que le droit n’interroge pas encore.