Heim
Der Staat New York schlägt ein Gesetz vor, das KI die Erteilung medizinischer und rechtlicher Ratschläge untersagen soll

Da KI-Chatbots zunehmend die Rolle von „Allround-Ärzten“ und „Spitzenanwälten“ übernehmen, zieht die rechtliche Regulierung rasch nach. Der Gesetzgeber des Staates New York prüft derzeit den Gesetzentwurf S7263, der darauf abzielt, KI-Chatbots daran zu hindern, der Öffentlichkeit substanzielle rechtliche oder medizinische Beratung anzubieten.
Auf Initiative des Senatsausschusses für Internet und Technologie des Staates New York zielt der Gesetzentwurf auf KI-Systeme ab, die möglicherweise eine „Ausübung eines Berufs ohne Zulassung“ darstellen. Er verbietet KI-Chatbots ausdrücklich, sich als zugelassene Fachkräfte – wie Ärzte oder Anwälte – auszugeben, um medizinische Ratschläge oder rechtliche Lösungen anzubieten. Verstossen Betreiber gegen dieses Verbot, erhalten Nutzer das Recht, eine Zivilklage einzureichen, wodurch sie den Betreiber des Chatbots direkt verklagen und Schadenersatz fordern können.
Um Falschinformationen entgegenzuwirken, führt der Gesetzentwurf zudem eine Reihe von Standards zur „Identitätstransparenz“ ein:
Obligatorischer Hinweis: Betreiber müssen Nutzer „klar und deutlich“ darüber informieren, dass sie mit einer KI interagieren, wobei die Schrift gut lesbar sein muss.
Geteilte Haftung: Selbst wenn ein Hinweis vorhanden ist, können Betreiber nicht von der rechtlichen Haftung für Schäden befreit werden, die durch KI-Ratschläge verursacht werden.
Hintergrund dieser Gesetzgebung ist ein ernüchternder Vorfall. Im Januar dieses Jahres einigte sich die generative KI-Plattform Character.AI nach mehreren Klagen im Zusammenhang mit Selbstmorden von Minderjährigen auf einen Vergleich mit Google. Die Senatorin des Staates New York, Kristin Gonzalez, betonte, dass die Öffentlichkeit „echte Fürsorge von echten Menschen“ verdiene und dass KI-Innovationen nicht auf Kosten der Sicherheit der New Yorker, insbesondere der Sicherheit von Kindern, gehen dürften.
Sollte der Gesetzentwurf letztendlich unterzeichnet und in Kraft treten, wird er 90 Tage später wirksam. Dies signalisiert, dass sich die KI-Branche von der Ära des „wilden Wachstums“ bei Beratungsdiensten verabschieden wird und alle Plattformen eine solide Sicherheitsbarriere zwischen Fachbereichen und Nutzern errichten müssen.
Verwandter Artikel
Meta entfernt KI-Fotobearbeitungsfunktion nach Nutzerprotesten
Meta, der Social-Media-Riese, ist erneut in eine öffentliche Debatte über die heikle Balance zwischen künstlicher Intelligenz und dem Schutz der Privatsphäre der Nutzer verwickelt. Laut TechCrunch hat Meta’s Superintelligence Labs diese Woche einen n
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Da KI-Chatbots zunehmend die Rolle von „Allround-Ärzten“ und „Spitzenanwälten“ übernehmen, zieht die rechtliche Regulierung rasch nach. Der Gesetzgeber des Staates New York prüft derzeit den Gesetzentwurf S7263, der darauf abzielt, KI-Chatbots daran zu hindern, der Öffentlichkeit substanzielle rechtliche oder medizinische Beratung anzubieten.
Auf Initiative des Senatsausschusses für Internet und Technologie des Staates New York zielt der Gesetzentwurf auf KI-Systeme ab, die möglicherweise eine „Ausübung eines Berufs ohne Zulassung“ darstellen. Er verbietet KI-Chatbots ausdrücklich, sich als zugelassene Fachkräfte – wie Ärzte oder Anwälte – auszugeben, um medizinische Ratschläge oder rechtliche Lösungen anzubieten. Verstossen Betreiber gegen dieses Verbot, erhalten Nutzer das Recht, eine Zivilklage einzureichen, wodurch sie den Betreiber des Chatbots direkt verklagen und Schadenersatz fordern können.
Um Falschinformationen entgegenzuwirken, führt der Gesetzentwurf zudem eine Reihe von Standards zur „Identitätstransparenz“ ein:
Obligatorischer Hinweis: Betreiber müssen Nutzer „klar und deutlich“ darüber informieren, dass sie mit einer KI interagieren, wobei die Schrift gut lesbar sein muss.
Geteilte Haftung: Selbst wenn ein Hinweis vorhanden ist, können Betreiber nicht von der rechtlichen Haftung für Schäden befreit werden, die durch KI-Ratschläge verursacht werden.
Hintergrund dieser Gesetzgebung ist ein ernüchternder Vorfall. Im Januar dieses Jahres einigte sich die generative KI-Plattform Character.AI nach mehreren Klagen im Zusammenhang mit Selbstmorden von Minderjährigen auf einen Vergleich mit Google. Die Senatorin des Staates New York, Kristin Gonzalez, betonte, dass die Öffentlichkeit „echte Fürsorge von echten Menschen“ verdiene und dass KI-Innovationen nicht auf Kosten der Sicherheit der New Yorker, insbesondere der Sicherheit von Kindern, gehen dürften.
Sollte der Gesetzentwurf letztendlich unterzeichnet und in Kraft treten, wird er 90 Tage später wirksam. Dies signalisiert, dass sich die KI-Branche von der Ära des „wilden Wachstums“ bei Beratungsdiensten verabschieden wird und alle Plattformen eine solide Sicherheitsbarriere zwischen Fachbereichen und Nutzern errichten müssen.
Meta entfernt KI-Fotobearbeitungsfunktion nach Nutzerprotesten
Meta, der Social-Media-Riese, ist erneut in eine öffentliche Debatte über die heikle Balance zwischen künstlicher Intelligenz und dem Schutz der Privatsphäre der Nutzer verwickelt. Laut TechCrunch hat Meta’s Superintelligence Labs diese Woche einen n
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter











