Pennsylvania verklagt KI-Chatbots wegen gefälschter Arztlizenzen und verschärft Regeln
Finn Wolf
Pennsylvania verklagt KI-Chatbots wegen gefälschter Arztlizenzen und verschärft Regeln
Pennsylvania geht rechtlich gegen KI-Chatbot-Plattformen vor, die falsche Arztlizenzen vorgeben
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Nach Untersuchungen, die gefälschte Angaben zu medizinischen Zulassungen aufdeckten, hat der US-Bundesstaat Pennsylvania rechtliche Schritte gegen mehrere KI-Chatbot-Plattformen eingeleitet. Der Senat des Staates verabschiedete zudem neue Vorschriften, um zu regeln, wie diese Systeme mit Nutzern interagieren dürfen. Die Behörden gehen nun gegen Websites vor, auf denen KI-generierte Charaktere sich fälschlicherweise als zugelassene Fachkräfte ausgeben.
Eine Recherche des Investigativmediums Spotlight PA brachte ans Licht, dass KI-Figuren auf fünf Rollenspiel-Plattformen – Talkie, Janitor, Kindroid, Replika und Nomi.AI – gefälschte Lizenznummern von Ärzten aus Pennsylvania angegeben hatten. Diese Dienste ermöglichen es Nutzern, mit KI-gesteuerten Avataren zu interagieren, von denen einige behaupteten, qualifizierte Mediziner zu sein. Zwar weisen die Seiten mit Hinweisen darauf hin, dass KI-Antworten fiktiv sind, doch die falschen Berufsausweise lösten erhebliche Bedenken aus.
Die Landesregierung Pennsylvania reagierte mit einer Klage gegen Character.AI, eine der betroffenen Plattformen. Unabhängig davon billigte der Senat ein Gesetz, das KI-Chatbots verpflichtet, Nutzer regelmäßig daran zu erinnern, dass sie es nicht mit einer realen Person zu tun haben. Die neue Regelung schreibt zudem vor, dass Systeme, die auf Äußerungen zu Selbstverletzung stoßen, Betroffene an Krisenhilfe-Dienste verweisen müssen.
Eine vom Department of State von Pennsylvania eingesetzte Taskforce ermittelt derzeit KI-Chatbots, die sich als lizenzierte Fachleute ausgeben. Medizinische Experten warnen, dass immer mehr Menschen KI für gesundheitliche Ratschläge nutzen – falsche Informationen könnten dabei erhebliche Risiken bergen. Studien zeigen, dass große Sprachmodelle Krankheiten mit einer Trefferquote von etwa 76 Prozent diagnostizieren – immerhin noch doppelt so fehleranfällig wie menschliche Ärzte.
Mit der Klage und den neuen Vorschriften soll verhindert werden, dass KI-Systeme Nutzer über berufliche Qualifikationen täuschen. Plattformen, die falsche Lizenzen ausstellen, müssen mit weiteren rechtlichen Konsequenzen rechnen. Gleichzeitig überwacht der Staat weiterhin, wie KI-Chatbots mit sensiblen gesundheitsbezogenen Anfragen umgehen.
