Heim
KI-Pionier Hinton warnt: Die Gewinnorientierung der Tech-Giganten könnte Menschen zu „Babys“ gegenüber der Superintelligenz machen

Angesichts des sich verschärfenden globalen Wettbewerbs im Bereich der KI hat Geoffrey Hinton – der mit dem Nobelpreis ausgezeichnete „Vater der KI“ – erneut eine eindringliche Warnung ausgesprochen. In einem kürzlich erschienenen Interview mit Fortune stellte er fest, dass die heutigen Technologieführer selten darüber nachdenken, wohin ihre Innovationen letztendlich führen, sondern sich stattdessen von kurzfristigen Gewinnen leiten lassen.
Hinton stellte fest, dass Führungskräfte und Forscher stark gespalten sind: Führungskräfte konzentrieren sich auf Quartalsergebnisse, während Ingenieure sich mit konkreten Aufgaben wie der Verbesserung der Bildschärfe oder des Realismus von Videos beschäftigen. Die größere Frage – was mit der Menschheit geschieht – wird in der Eile zur Kommerzialisierung auf die lange Bank geschoben.
Hinton unterteilt KI-bezogene Risiken in zwei unterschiedliche Bereiche:
Missbrauch durch böswillige Akteure: Deepfakes, Cyberangriffe und KI-gestützte Virenentwicklung sind bereits aufkommende Bedrohungen.
KI, die außer Kontrolle gerät: Dies ist Hintons tiefere Sorge. Er warnt davor, dass KI, sobald sie Superintelligenz erreicht, einen eigenen Überlebens- und Kontrolltrieb entwickeln könnte, wodurch die Idee der menschlichen Aufsicht hinfällig würde.
Hinton liefert eine erschreckende Prognose: Nach dem Erreichen der Superintelligenz könnte die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, bei 10 % bis 20 %liegen. Um dem entgegenzuwirken, schlägt er einen biologisch inspirierten Mechanismus vor – einen Ansatz, der auf dem „mütterlichen Instinkt“ basiert.
„Das einzige Beispiel dafür, dass ein intelligenteres Wesen von einem schwächeren beeinflusst wird, ist der Einfluss eines Babys auf seine Mutter.“
Verwandter Artikel
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter
Einhaltung der Vorschriften für autonome Fahrzeuge in Kalifornien: Eine neue Ära von Bußgeldern, Geofences und 1 Million Meilen
Guident betreibt einen AuveTech-Shuttle in Südflorida und verwaltet mithilfe seiner Fernüberwachungstechnologie eine vier Meilen lange Strecke in West Palm Beach sowie eine eine Meile lange Strecke in
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Angesichts des sich verschärfenden globalen Wettbewerbs im Bereich der KI hat Geoffrey Hinton – der mit dem Nobelpreis ausgezeichnete „Vater der KI“ – erneut eine eindringliche Warnung ausgesprochen. In einem kürzlich erschienenen Interview mit Fortune stellte er fest, dass die heutigen Technologieführer selten darüber nachdenken, wohin ihre Innovationen letztendlich führen, sondern sich stattdessen von kurzfristigen Gewinnen leiten lassen.
Hinton stellte fest, dass Führungskräfte und Forscher stark gespalten sind: Führungskräfte konzentrieren sich auf Quartalsergebnisse, während Ingenieure sich mit konkreten Aufgaben wie der Verbesserung der Bildschärfe oder des Realismus von Videos beschäftigen. Die größere Frage – was mit der Menschheit geschieht – wird in der Eile zur Kommerzialisierung auf die lange Bank geschoben.
Hinton unterteilt KI-bezogene Risiken in zwei unterschiedliche Bereiche:
Missbrauch durch böswillige Akteure: Deepfakes, Cyberangriffe und KI-gestützte Virenentwicklung sind bereits aufkommende Bedrohungen.
KI, die außer Kontrolle gerät: Dies ist Hintons tiefere Sorge. Er warnt davor, dass KI, sobald sie Superintelligenz erreicht, einen eigenen Überlebens- und Kontrolltrieb entwickeln könnte, wodurch die Idee der menschlichen Aufsicht hinfällig würde.
Hinton liefert eine erschreckende Prognose: Nach dem Erreichen der Superintelligenz könnte die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, bei 10 % bis 20 %liegen. Um dem entgegenzuwirken, schlägt er einen biologisch inspirierten Mechanismus vor – einen Ansatz, der auf dem „mütterlichen Instinkt“ basiert.
„Das einzige Beispiel dafür, dass ein intelligenteres Wesen von einem schwächeren beeinflusst wird, ist der Einfluss eines Babys auf seine Mutter.“
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter











