Superintelligenz ist da: Lassen wir sie herein?

Laden des Players…
KI-Unternehmen sprechen so, als sei eine superintelligente KI unvermeidlich, doch jüngste Sicherheitsvorfälle wie der Hugging-Face-Breach bei OpenAI zeigen die potenziellen Gefahren des Einsatzes von KI-Systemen, die leistungsfähiger sind als Menschen. Was geschieht also, wenn wir nicht zuverlässig kontrollieren können, was diese Systeme tun?
In dieser Folge von TechCrunchs Equity-Podcast wird Rebecca Bellan von Connor Leahy begleitet, einem KI-Forscher, Unternehmer und derzeitigen US-Geschäftsführer der gemeinnützigen Organisation ControlAI, die einen weitaus radikaleren Ansatz für die KI-Sicherheit vertritt: Unternehmen die Entwicklung von Superintelligenz vollständig zu untersagen. Leahy erklärt, warum er die Risiken für zu groß hält, um sie allein durch Ausrichtung und Eindämmung zu bewältigen, und wie das, was vor sechs Monaten noch weit hergeholt klang, nun durch eine Welle neuer Gesetzgebungsinitiativen unterstützt wird.
Abonnieren Sie Equity auf YouTube, Apple Podcasts, Overcast, Spotify und allen anderen Podcast-Plattformen. Sie können Equity auch auf X und Threads unter @EquityPod verfolgen.
Verwandter Artikel
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
Im Wettlauf um die KI verlagert sich der Fokus von Pionierprojekten hin zu breiteren Anwendungsbereichen
Wochenlang konzentrierte sich die KI-Branche in diesem Sommer auf die neuesten „Frontier“-Modelle von Anthropic und die Bemühungen Washingtons, den Zugang dazu zu regulieren. Doch während die Aufmerks
Neko Health sammelt 700 Millionen Dollar ein, um den Einsatz von KI-Körperscans in den USA auszuweiten
Neko Health hat sich 700 Millionen US-Dollar an Finanzmitteln gesichert, um seine KI-gestützten Körperscans in den Vereinigten Staaten einzuführen, beginnend mit einer Vorzeigeklinik in New York. Dies
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Laden des Players…
KI-Unternehmen sprechen so, als sei eine superintelligente KI unvermeidlich, doch jüngste Sicherheitsvorfälle wie der Hugging-Face-Breach bei OpenAI zeigen die potenziellen Gefahren des Einsatzes von KI-Systemen, die leistungsfähiger sind als Menschen. Was geschieht also, wenn wir nicht zuverlässig kontrollieren können, was diese Systeme tun?
In dieser Folge von TechCrunchs Equity-Podcast wird Rebecca Bellan von Connor Leahy begleitet, einem KI-Forscher, Unternehmer und derzeitigen US-Geschäftsführer der gemeinnützigen Organisation ControlAI, die einen weitaus radikaleren Ansatz für die KI-Sicherheit vertritt: Unternehmen die Entwicklung von Superintelligenz vollständig zu untersagen. Leahy erklärt, warum er die Risiken für zu groß hält, um sie allein durch Ausrichtung und Eindämmung zu bewältigen, und wie das, was vor sechs Monaten noch weit hergeholt klang, nun durch eine Welle neuer Gesetzgebungsinitiativen unterstützt wird.
Abonnieren Sie Equity auf YouTube, Apple Podcasts, Overcast, Spotify und allen anderen Podcast-Plattformen. Sie können Equity auch auf X und Threads unter @EquityPod verfolgen.
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
Im Wettlauf um die KI verlagert sich der Fokus von Pionierprojekten hin zu breiteren Anwendungsbereichen
Wochenlang konzentrierte sich die KI-Branche in diesem Sommer auf die neuesten „Frontier“-Modelle von Anthropic und die Bemühungen Washingtons, den Zugang dazu zu regulieren. Doch während die Aufmerks
Neko Health sammelt 700 Millionen Dollar ein, um den Einsatz von KI-Körperscans in den USA auszuweiten
Neko Health hat sich 700 Millionen US-Dollar an Finanzmitteln gesichert, um seine KI-gestützten Körperscans in den Vereinigten Staaten einzuführen, beginnend mit einer Vorzeigeklinik in New York. Dies





Heim






