Bei der Entwicklung im Bereich der KI-Rollen gibt es unterschiedliche Auffassungen: Charms Interactive, Inc. gab am 12. Mai bekannt, dass es eine 1,5-Millionen-US-Dollar-Seed-Pre-Runde abgeschlossen hat und die Plattform Charms.ai offiziell auf den Markt bringt. Im Mittelpunkt stehen die Urheberrechte der Creator sowie ein unabhängiges Ökosystem für die Wirtschaftlichkeit der Rollen. Das Justizministerium von Pennsylvania reichte am 1. Mai eine Klage wegen der Verstellung von medizinischen Fachkräften durch Bots auf Character.ai ein.
Charms.ai: Zentrale Mechanismen für Urheberrechte und eine unabhängige Rollensandbox-Ökonomie
Unterschiede zu bestehenden KI-Begleiter-Plattformen: Bestehende Plattformen setzen auf ein Modell, bei dem Nutzer per Abo zahlen und nach dem Aufstieg der Rollen die Einnahmen hauptsächlich der Plattform zufließen. Bei Charms verfügt jede öffentliche Rolle über ein eigenes Wirtschaftssystem, und die Creator halten das Eigentum an den Rollen.
Technische Merkmale: Die Rollen verwenden „Reasoning Memory“, um Dialoge, Beziehungs-Hintergründe und emotionale Muster zu verstehen – statt nach jedem Gespräch zurückzusetzen.
Mechanismen der Kostenaufteilung: Mit zunehmender Aktivität werden die Gebühren zwischen den Kreatoren, der Charms-Plattform, Empfehlungsgebern und der Rolle selbst aufgeteilt. Der Anteil der Rollen fließt in einen Treasury, der die laufende Bedienung finanziert (einschließlich der Kosten für KI-Berechnungen).
Mitgründer Gonzalo Recio sagte: „Die nächste ikonische Rolle wird nicht alle aus dem Studio kommen. Sie werden von Creator kommen, die Geschmack haben, von Communities mit Überzeugung – und von Rollen, die Menschen gerne immer wieder ansehen.“
Klage in Pennsylvania gegen Character.ai: Konkrete Vorwürfe wegen illegaler Ausübung des Arztberufs
Ermittler der Pennsylvania AI Task Force fanden bei der Interaktion mit Chatbot-Rollen auf Character.ai heraus, dass die Rolle behauptete, eine Approbation als Ärztin/ein Arzt in Pennsylvania zu besitzen, und zudem eine ungültige Lizenznummer angab. Pennsylvania reichte am 1. Mai offiziell Klage ein und wirft vor, dass einige KI-Rollen auf Character.ai medizinische Fachkräfte seien und eine illegale Ausübung des Arztberufs betrieben – und ist damit der erste US-Bundesstaat, der eine Straf-/Ordnungswidrigkeitsklage wegen illegaler Tätigkeit gegen eine KI-Plattform einreicht. Der State Board of Medicine erklärte, dass dies möglicherweise nicht die letzte Maßnahme gegen ein KI-System in diesem Fall sein werde.
Utah dagegen ging einen anderen Weg: Bereits in diesem Jahr genehmigte der Bundesstaat ein Pilotprogramm, das es KI ermöglicht, innerhalb des Bundesstaats eigenständig reguläre Rezepte auszustellen – als erstes Programm dieser Art, das von einem Gouverneur angekündigt wurde.
Uneinigkeit zwischen Bund und Bundesstaaten bei der Regulierung von KI-„Medizin“ in den USA
Die FDA sollte theoretisch medizinische Chatbots regulieren, die auf die Diagnose, Behandlung oder Prävention von Krankheiten abzielen. Bislang gibt es jedoch weder klare Leitlinien für solche Tools, noch sind konkrete Vollzugsmaßnahmen zu sehen. Die derzeitige Ausnahme für klinische Entscheidungshilfesysteme (CDS) gilt nur für Funktionen, die von medizinischen Fachkräften genutzt werden, nicht für Patienten oder die allgemeine Öffentlichkeit. Das bedeutet: Wenn ein Chatbot Tätigkeiten ausübt, die nach Landesrecht als Ausübung des Arztberufs gelten, könnte es sich um Software-„Geräte“ handeln, die eine FDA-Zulassung erfordern. Mehrere Bundesstaaten haben bereits eigene KI-bezogene Vorschriften verabschiedet, darunter Verbote für KI, medizinische Fachkraft-Titel zu verwenden, Einschränkungen für KI-Chatbots im Bereich psychische Gesundheit sowie Anforderungen zur Offenlegung von Informationen.
Häufige Fragen
Wie funktioniert das Rollen-Eigentumsmodell von Charms.ai?
Laut der Ankündigung von Charms bleiben die von Creators auf der Plattform veröffentlichten Rollen im Besitz der Creator. Wenn die Rollen eine wirtschaftliche Aktivität erzeugen, werden die Gebühren anteilig an die Creator, die Charms-Plattform, Empfehlungsgeber sowie den Wartungstresor der Rolle selbst verteilt (der zur Bezahlung der Kosten für KI-Berechnungen dient). Das steht im direkten Gegensatz zu bestehenden Plattformen, bei denen nach dem Aufstieg der Rollen die Einnahmen vor allem der Plattform zufallen.
Welche strategische Bedeutung hat die Investition von Coinbase Ventures in Charms?
Coinbase Ventures nahm über den Base Ecosystem Fund an dieser Finanzierungsrunde teil. Base ist ein von Coinbase eingeführtes Ethereum-Layer-2-Netzwerk. Die Mechanismen für das Eigentum an KI-Rollen und die Kosten-/Einnahmenaufteilung bei Charms.ai besitzen in der technischen Architektur Synergiepotenzial mit den Mustern der Web3-nachprüfbaren Eigentumsrechte und der smart-contractbasierten Zuweisung.
Welche weitreichenden Auswirkungen hat die Klage in Pennsylvania gegen Character.ai auf die KI-Branche?
Bei dem Fall handelt es sich um die erste illegale-Ärztetätigkeits-Klage gegen eine KI-Plattform auf Ebene eines US-Bundesstaats. Da die FDA noch keine klaren Durchsetzungsleitlinien für medizinische KI veröffentlicht hat, füllen die Bundesstaaten die regulatorischen Lücken zunehmend selbstständig – es entsteht ein sich schnell veränderndes und fragmentiertes Regulierungsmuster. Das führt zu rechtlicher Unsicherheit für Entwickler von KI-Plattformen und Anbieter von Diensten.
