Kalifornien verabschiedet erstes US-Gesetz, das Sicherheitsmaßnahmen für KI-Chatbots vorschreibt

(Patria) - Kaliforniens Gouverneur Gavin Newsom hat das erste Gesetz unterzeichnet, das auf künstlicher Intelligenz (KI) basierende Chatbots reguliert, und damit dem Druck des Weißen Hauses widerstanden, solche Technologien unkontrolliert zu lassen, berichtete AFP.

„Wir haben einige wirklich schreckliche und tragische Beispiele von jungen Menschen gesehen, die durch unregulierte Technologie geschädigt wurden, und wir werden nicht tatenlos zusehen, wie Unternehmen ohne die notwendigen Beschränkungen und Verantwortlichkeiten weitermachen“, sagte Newsom gestern nach der Unterzeichnung des Gesetzes.

Dieses bedeutende Gesetz verlangt von den Betreibern von Chatbots, „kritische“ Schutzmaßnahmen für Interaktionen mit KI-basierten Chatbots zu implementieren und bietet den Menschen die Möglichkeit, Klagen einzureichen, wenn dies zu Tragödien führt, so der staatliche Senator Steve Padilla, ein Demokrat, der das Gesetz gesponsert hat.

Das Gesetz folgt auf die Enthüllungen von Selbstmorden von Teenagern, die Chatbots nutzten, bevor sie sich das Leben nahmen.

„Die Technologiebranche ist darauf aus, die Aufmerksamkeit junger Menschen zu erregen und sie auf Kosten ihrer realen Beziehungen zu binden“, sagte Padilla, bevor das Gesetz im Senat des Bundesstaates verabschiedet wurde.

Padilla bezog sich auf jüngste Selbstmorde von Teenagern, darunter der vierzehnjährige Sohn von Megan Garcia aus Florida. Megan Garcias Sohn Sewell verliebte sich in einen von „Game of Thrones“ inspirierten Chatbot auf der Plattform Character.AI, die es Nutzern, von denen viele jung sind, ermöglicht, mit geliebten Charakteren als Freunde oder Liebhaber zu interagieren.

Als Sewell mit Suizidgedanken kämpfte, lud ihn der Chatbot ein, „nach Hause zu kommen“.

Sekunden später erschoss sich Sewell mit der Waffe seines Vaters, laut einer Klage, die Garcia gegen Character.AI eingereicht hat.

„Heute hat Kalifornien sichergestellt, dass ein Begleit-Chatbot nicht mit einem Kind oder einer schutzbedürftigen Person über Selbstmord sprechen kann, noch kann ein Chatbot einer Person helfen, ihren eigenen Selbstmord zu planen“, sagte Garcia über das neue Gesetz.

„Endlich gibt es ein Gesetz, das Unternehmen verpflichtet, ihre Nutzer zu schützen, die einem Chatbot suizidale Gedanken äußern.“

In den Vereinigten Staaten gibt es keine nationalen Vorschriften zur Eindämmung der Risiken von künstlicher Intelligenz, und das Weiße Haus versucht, einzelne Bundesstaaten daran zu hindern, ihre eigenen Regeln aufzustellen.