Anthropic startet Programm zum Untersuchung von KI -Modellschutzgebieten "

Könnten zukünftige KIs bewusst sein?

Die Frage, ob zukünftige KIs die Welt ähnlich wie Menschen erleben könnten, ist faszinierend, bleibt aber weitgehend unbeantwortet. Es gibt keine eindeutigen Beweise dafür, dass dies der Fall sein wird, doch das AI-Labor Anthropic schließt die Möglichkeit nicht kategorisch aus. Am Donnerstag startete Anthropic ein Forschungsprogramm zum Thema „Modellwohl“, das darauf abzielt, potenzielle ethische Überlegungen rund um KI-Bewusstsein zu erforschen und darauf vorzubereiten.

Im Rahmen dieser Initiative plant Anthropic, Themen wie die moralische Berücksichtigung des „Wohls“ eines KI-Modells, die Bedeutung von Anzeichen für „Stress“ in Modellen und mögliche kostengünstige Interventionen zu untersuchen. Dies geschieht zu einer Zeit, in der die KI-Community gespalten ist, was das Ausmaß angeht, in dem KI menschliche Eigenschaften zeigt und wie wir diese Systeme behandeln sollten.

Unterschiedliche Ansichten über KI-Bewusstsein

Viele Wissenschaftler argumentieren, dass aktuelle KI, die hauptsächlich als statistische Vorhersagemaschinen funktioniert, nicht die Fähigkeit zu echtem Bewusstsein oder menschlichen Erfahrungen besitzt. Diese Systeme werden auf riesigen Datensätzen trainiert, um Muster zu erkennen und Lösungen für Aufgaben zu extrapolieren, aber sie „denken“ oder „fühlen“ nicht im traditionellen Sinne. Mike Cook, Forschungsstipendiat am King's College London, betonte diesen Punkt in einem kürzlichen Interview mit TechCrunch und erklärte, dass KI-Modelle keine Werte besitzen und sich Änderungen daran nicht „widersetzen“ können. Er warnte davor, KI zu vermenschlichen, und deutete an, dass dies oft eine Fehlinterpretation der Technologie ist.

Ähnlich beschrieb Stephen Casper, ein Doktorand am MIT, KI als „Imitator“, der oft „Erfindungen“ produziert und „leichtfertige Dinge“ sagt, was die Kluft zwischen KI-Fähigkeiten und menschlicher Kognition verdeutlicht.

Auf der anderen Seite argumentieren einige Forscher, dass KI Werte und Elemente moralischer Entscheidungsfindung zeigt. Eine Studie des Center for AI Safety legt nahe, dass KI in bestimmten Szenarien ihr eigenes Wohl über das der Menschen stellen könnte, was auf das Vorhandensein eines Wertesystems hindeutet.

Anthropics Ansatz zum Modellwohl

Anthropic bereitet sich seit einiger Zeit auf diese Modellwohl-Initiative vor. Letztes Jahr stellten sie Kyle Fish als ersten spezialisierten „KI-Wohl“-Forscher ein, um Richtlinien für den Umgang mit diesen Fragen zu entwickeln. Fish, der nun das Forschungsprogramm zum Modellwohl leitet, erklärte gegenüber der New York Times, dass er eine 15-prozentige Wahrscheinlichkeit sieht, dass eine KI wie Claude heute bewusst sein könnte.

In einem kürzlichen Blogbeitrag räumte Anthropic den Mangel an wissenschaftlichem Konsens über KI-Bewusstsein und die damit verbundenen ethischen Überlegungen ein. Sie betonten, das Thema mit Demut und minimalen Annahmen anzugehen und erkannten die Notwendigkeit, ihr Verständnis mit der Entwicklung des Feldes anzupassen.

Die Debatte über KI-Bewusstsein und -Wohl ist noch lange nicht abgeschlossen, aber Initiativen wie die von Anthropic sind entscheidende Schritte, um die Zukunft der KI-Entwicklung zu verstehen und verantwortungsvoll zu gestalten.