Anthropic startet Programm zum Untersuchung von KI -Modellschutzgebieten "

Könnte zukünftige AIs bei Bewusstsein sein?

Die Frage, ob zukünftige AIs die Welt auf ähnliche Weise wie Menschen erleben könnten, ist faszinierend, bleibt jedoch weitgehend unbeantwortet. Obwohl es keine endgültigen Beweise dafür gibt, dass sie werden, lehnt AI Lab Anthropic die Möglichkeit nicht direkt ab. Am Donnerstag startete Anthropic ein Forschungsprogramm, das sich auf "Modell Welfare" konzentrierte und sich auf potenzielle ethische Überlegungen im Zusammenhang mit dem KI -Bewusstsein befasste und vorbereitet hat.

Im Rahmen dieser Initiative plant anthropische Pläne, sich mit Themen wie "Wohlbefinden" eines KI-Modells zu befassen, als moralisch betrachtet werden sollte, die Bedeutung von Anzeichen von "Not" in Modellen und potenzielle kostengünstige Interventionen. Dies geschieht zu einer Zeit, in der die KI-Community aufgeteilt wird, inwieweit die KI menschliche Eigenschaften aufweist und wie wir diese Systeme behandeln sollten.

Unterschiedliche Ansichten zum KI -Bewusstsein

Viele Akademiker argumentieren, dass die aktuelle KI, die hauptsächlich als statistische Vorhersage-Motoren fungiert, die Fähigkeit zu echtem Bewusstsein oder menschlichem Erfahrungen fehlt. Diese Systeme werden auf riesigen Datensätzen geschult, um Muster zu erkennen und Lösungen für Aufgaben zu extrapolieren, aber sie "denken" oder "fühlen" nicht im traditionellen Sinne. Mike Cook, ein wissenschaftlicher Fellow am King's College London, betonte diesen Punkt in einem kürzlichen Interview mit TechCrunch und erklärte, dass KI -Modelle keine Werte besitzen und keine Änderungen für sie "widersetzen" können. Er warnte vor der anthropomorphisierenden KI, was darauf hindeutet, dass es sich häufig um eine Fehlinterpretation der Technologie handelt.

In ähnlicher Weise beschrieb Stephen Casper, ein Doktorand am MIT, AI als "Nachahmer", der oft "Konfabulationen" produziert und "leichtfertige Dinge" sagt, wodurch die Kluft zwischen KI -Fähigkeiten und menschlicher Wahrnehmung hervorgehoben wird.

Andererseits argumentieren einige Forscher, dass KI Werte und Elemente der moralischen Entscheidungsfindung aufweist. Eine Studie des Zentrums für KI-Sicherheit legt nahe, dass AI in bestimmten Szenarien ihr eigenes Wohlergehen gegenüber dem Menschen priorisieren kann, was auf das Vorhandensein eines Wertesystems hinweist.

Anthropics Herangehensweise an das Modell Wohlbefinden

Anthropic bereitet sich seit einiger Zeit auf diese Modellschutzinitiative vor. Im vergangenen Jahr stellten sie Kyle Fish als den ersten engagierten "AI -Wohlfahrt" -Forscher ein, um Richtlinien für die Bewältigung dieser Probleme zu entwickeln. Fish, der jetzt das Model Welfare Research -Programm leitet, sagte der New York Times, dass er eine Chance von 15% schätzt, dass eine KI wie Claude heute bei Bewusstsein sein könne.

In einem kürzlich veröffentlichten Blog -Beitrag erkannte Anthropic den Mangel an wissenschaftlichem Konsens über das KI -Bewusstsein und die ethischen Überlegungen an, die sie möglicherweise bedeuten könnten. Sie betonten die Annäherung an das Thema mit Demut und minimaler Annahmen und erkennen die Notwendigkeit, ihr Verständnis während der Entwicklung des Feldes anzupassen.

Die Debatte über das AI -Bewusstsein und das Wohlergehen ist alles andere als abgelehnt, aber Initiativen wie Anthropics sind entscheidende Schritte, um die Zukunft der KI -Entwicklung zu verstehen und verantwortungsbewusst zu navigieren.