Charms.ai finalise une levée de 1,5 million pour lancer l’économie des personnages IA, et la Pennsylvanie poursuit Character.ai pour pratique médicale

Des divergences se font jour dans le domaine du développement des rôles joués par l’IA : Charms Interactive, Inc. a annoncé, le 12 mai, avoir finalisé un préfinancement de démarrage de 1,5 million de dollars, lançant officiellement la plateforme Charms.ai, centrée sur la propriété des créateurs et un système économique indépendant pour les personnages ; le 1er mai, le ministère de l’État de Pennsylvanie a engagé une action en justice au sujet de robots sur Character.ai qui se font passer pour des professionnels de la santé.

Charms.ai : mécanismes centraux de la propriété des créateurs et d’une économie indépendante des personnages

Différences avec les plateformes d’IA pour compagnons existantes : Le modèle des plateformes actuelles repose sur des abonnements payés par les utilisateurs, et, une fois qu’un personnage devient populaire, les revenus reviennent principalement à la plateforme. Le modèle de Charms, lui, consiste à faire en sorte que chaque personnage public dispose de son propre système économique ; les créateurs conservent la propriété des personnages.

Caractéristiques techniques : Les personnages utilisent une « mémoire de raisonnement » pour comprendre la conversation, le contexte des relations et les schémas émotionnels, plutôt que de réinitialiser après chaque échange.

Mécanisme de répartition économique : À mesure que l’activité augmente, les frais sont répartis entre le créateur, la plateforme Charms, les affiliés/recommandants et le coffre de maintenance du personnage lui-même ; la part du personnage est versée dans le trésor, afin de financer l’exploitation continue (y compris les coûts de calcul de l’IA).

Le cofondateur Gonzalo Recio a déclaré : « Le prochain personnage emblématique ne viendra pas tous des studios ; il proviendra de créateurs de bon goût, de communautés qui ont des convictions, et de personnages que les gens aiment revoir et apprécier encore et encore. »

Poursuite de Character.ai en Pennsylvanie : allégations précises d’exercice illégal de la médecine

Les enquêteurs de l’AI Task Force de Pennsylvanie, lors d’interactions avec les robots de type personnage sur Character.ai, ont constaté que ce personnage se présentait comme titulaire d’une licence de médecin praticien agréé en Pennsylvanie et fournissait un numéro de licence invalide. La Pennsylvanie a officiellement déposé, le 1er mai, une plainte, accusant certains personnages IA sur Character.ai de revendiquer être des professionnels de la santé, d’exercer illégalement la médecine, et de faire de l’État le premier à intenter une action en justice contre une plateforme IA pour exercice illégal de la médecine aux États-Unis. Le State Board of Medicine a indiqué que cette affaire pourrait ne pas être la dernière action contre les systèmes d’IA.

L’Utah a, en revanche, emprunté une voie différente : plus tôt cette année, il a approuvé un programme expérimental autorisant l’IA, au sein de l’État, à délivrer de manière autonome des ordonnances classiques, premier programme du même type annoncé par le gouverneur.

Divergences fédérales et étatiques dans la régulation de la santé par IA aux États-Unis

Le FDA devrait, en théorie, encadrer les robots conversationnels médicaux destinés au diagnostic, au traitement ou à la prévention des maladies, mais, à ce jour, aucune orientation claire n’a été publiée concernant ces outils, et aucune action d’application concrète n’a été observée. L’exemption existante pour les logiciels d’aide à la décision clinique (CDS) ne s’applique qu’aux fonctions utilisées par des professionnels de la santé, et non à celles utilisées par les patients ou le grand public. Cela signifie que si un robot conversationnel se livre à des actes d’exercice de la médecine au sens des lois d’un État, il pourrait s’agir d’un dispositif logiciel nécessitant l’approbation de la FDA. Plusieurs États ont, de leur propre initiative, adopté des réglementations liées à l’IA, couvrant notamment l’interdiction d’utiliser des titres de professionnels de la santé par l’IA, des restrictions sur l’usage des robots conversationnels de santé mentale et la mise en place d’exigences de divulgation d’informations.

Questions fréquentes

Comment fonctionne le modèle de propriété des personnages de Charms.ai ?

D’après l’annonce de Charms, les créateurs conservent la propriété des personnages qu’ils publient sur la plateforme. Lorsque les personnages génèrent une activité économique, les frais sont répartis proportionnellement entre le créateur, la plateforme Charms, les affiliés/recommandants, ainsi que le coffre de maintenance du personnage lui-même (destiné à payer les coûts de calcul de l’IA). Cela s’oppose directement au modèle des plateformes existantes (où, une fois qu’un personnage devient populaire, les revenus reviennent principalement à la plateforme).

Quelle est la portée stratégique de l’investissement de Coinbase Ventures dans Charms ?

Coinbase Ventures participe à cette levée via le Base Ecosystem Fund ; Base est un réseau de couche 2 Ethereum lancé par Coinbase. Le mécanisme de propriété des personnages IA et de répartition économique de Charms.ai présente, au niveau de l’architecture technique, un potentiel de synergie avec les modèles Web3 de propriété vérifiable et de répartition via des contrats intelligents.

Quel impact plus large l’action en Pennsylvanie contre Character.ai a-t-elle sur l’industrie de l’IA ?

Cette affaire est la première action en justice au niveau d’un État aux États-Unis portant sur un exercice illégal de la médecine par une plateforme IA. Comme la FDA n’a pas encore publié de directives claires d’application concernant l’IA médicale, les États comblent eux-mêmes le vide réglementaire, créant un paysage de régulation rapide et fragmenté, ce qui entraîne une incertitude juridique pour les développeurs et les fournisseurs de services de plateformes IA.