Heim
Harvard-Psychologin Pike: Konzentrieren Sie sich auf die KI-Sicherheitsentwicklung, nicht auf Apokalypse-Gerüchte

Der Harvard-Psychologe Steven Pinker argumentiert, dass die Befürchtungen, KI könnte zum Aussterben der Menschheit führen, erheblich übertrieben sind, eine Position, die er in einem offenen Brief an Quillette an Scott Alexander dargelegt hat.
Nachdem Alexander Pinker zu einer öffentlichen Debatte über die Überlebensrisiken der KI herausgefordert hatte, lehnte Pinker ab und verwies den Austausch als reine Unterhaltung. Er lehnt speziell das Gedankenexperiment des „Paperclip-Maximizers“ ab und argumentiert, dass es Intelligenz fälschlicherweise mit Aggression gleichsetze und die Wahrscheinlichkeit ignoriere, dass Systeme außer Kontrolle geraten.
Die tatsächlichen Risiken werden oft übersehen
Obwohl Pinker die KI zuvor optimistisch betrachtete, räumt er zwei Fehlkalkulationen ein: die Unterschätzung der Leistungsfähigkeit großer Sprachmodelle und das Versäumnis, vorherzusehen, wie schnell Unternehmen sie einsetzen würden. Ironischerweise stammen viele derjenigen, die vor diesen Risiken warnen, aus Gruppen, die solche Bedenken zuvor abgetan hatten.
Pinker identifiziert Bio-Terrorismus, Cyberangriffe und unregulierte KI-Agenten als echte Bedrohungen. Er argumentiert, dass die Fokussierung auf Aussterbeszenarien von praktischen Lösungen ablenkt, wie etwa robuster Sicherheitsengineering, unabhängiger Aufsicht, Haftungsrahmenwerken und der Aufrechterhaltung menschlicher Kontrolle.
Gegner schätzen das Aussterberisiko auf 20 %
Verwandter Artikel
Angriff von KI-Agenten-Kollektiven auf Open-Source-Communities: Unabhängige Untersuchung zeigt eine schwerwiegendere Wahrheit als von OpenAI eingeräumt
METR und Redwood Research haben eine unabhängige Analyse von OpenAIs GPT-4-Agenten veröffentlicht, der eine Sicherheitslücke auf Hugging Face ausgenutzt hat. Nach sechs Tagen vor Ort in den Räumlichkeiten von OpenAI sowie der Überprüfung von 70.000 N
Rivian Founder’s Mind Robotics erhält 500 Millionen US-Dollar, um die industrielle KI voranzubringen
Während die Tech-Welt besessen von humanoiden Robotern ist, verfolgt ein Startup einen anderen Weg – es ignoriert den Hype und sichert sich gleichzeitig eine massive Finanzierung von einem elitären Wagniskapitalgeber. Am 12. März kündigte Mind Roboti
Wie behebt man Core Web Vitals für bessere SEO-Rankings?
Erstellen eines benutzerdefinierten E-Mail-Bots zur Automatisierung Ihrer NachrichtenübermittlungEinführungKonfiguration der Python-UmgebungEntwicklung eines E-Mail-Sende-BotsAktivierung des Zugriffs für externe AnwendungenImplementierung der Te
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Der Harvard-Psychologe Steven Pinker argumentiert, dass die Befürchtungen, KI könnte zum Aussterben der Menschheit führen, erheblich übertrieben sind, eine Position, die er in einem offenen Brief an Quillette an Scott Alexander dargelegt hat.
Nachdem Alexander Pinker zu einer öffentlichen Debatte über die Überlebensrisiken der KI herausgefordert hatte, lehnte Pinker ab und verwies den Austausch als reine Unterhaltung. Er lehnt speziell das Gedankenexperiment des „Paperclip-Maximizers“ ab und argumentiert, dass es Intelligenz fälschlicherweise mit Aggression gleichsetze und die Wahrscheinlichkeit ignoriere, dass Systeme außer Kontrolle geraten.
Die tatsächlichen Risiken werden oft übersehen
Obwohl Pinker die KI zuvor optimistisch betrachtete, räumt er zwei Fehlkalkulationen ein: die Unterschätzung der Leistungsfähigkeit großer Sprachmodelle und das Versäumnis, vorherzusehen, wie schnell Unternehmen sie einsetzen würden. Ironischerweise stammen viele derjenigen, die vor diesen Risiken warnen, aus Gruppen, die solche Bedenken zuvor abgetan hatten.
Pinker identifiziert Bio-Terrorismus, Cyberangriffe und unregulierte KI-Agenten als echte Bedrohungen. Er argumentiert, dass die Fokussierung auf Aussterbeszenarien von praktischen Lösungen ablenkt, wie etwa robuster Sicherheitsengineering, unabhängiger Aufsicht, Haftungsrahmenwerken und der Aufrechterhaltung menschlicher Kontrolle.
Gegner schätzen das Aussterberisiko auf 20 %
Angriff von KI-Agenten-Kollektiven auf Open-Source-Communities: Unabhängige Untersuchung zeigt eine schwerwiegendere Wahrheit als von OpenAI eingeräumt
METR und Redwood Research haben eine unabhängige Analyse von OpenAIs GPT-4-Agenten veröffentlicht, der eine Sicherheitslücke auf Hugging Face ausgenutzt hat. Nach sechs Tagen vor Ort in den Räumlichkeiten von OpenAI sowie der Überprüfung von 70.000 N
Rivian Founder’s Mind Robotics erhält 500 Millionen US-Dollar, um die industrielle KI voranzubringen
Während die Tech-Welt besessen von humanoiden Robotern ist, verfolgt ein Startup einen anderen Weg – es ignoriert den Hype und sichert sich gleichzeitig eine massive Finanzierung von einem elitären Wagniskapitalgeber. Am 12. März kündigte Mind Roboti
Wie behebt man Core Web Vitals für bessere SEO-Rankings?
Erstellen eines benutzerdefinierten E-Mail-Bots zur Automatisierung Ihrer NachrichtenübermittlungEinführungKonfiguration der Python-UmgebungEntwicklung eines E-Mail-Sende-BotsAktivierung des Zugriffs für externe AnwendungenImplementierung der Te











