KI-betriebene Fehlinformationen als erstes globales Risiko identifiziert

Wenn wir uns einer Zeit nähern, in der sich zahlreiche Länder in den nächsten zwei Jahren auf Wahlen vorbereiten, ist die Gefahr von Fehlinformationen und Desinformationen, die durch künstliche Intelligenz (KI) turbo aufgeladen sind, als das kritischste globale Risiko. Diese Sorge wird durch den globalen Risikenbericht des Weltwirtschaftsforums (WEF) -Risiken 2024 unterstrichen, in dem hervorgehoben wird, dass die Verflechtung gefälschter Informationen mit gesellschaftlichen Unruhen an vorderster Front stehen wird, insbesondere bei großen Volkswirtschaften.

Inmitten wachsender Ängste über die Lebenshaltungskosten werden die mit KI-betriebenen Fehlinformationen in diesem Jahr andere Bedenken in Verbindung gebracht. Laut WEF wird Fehlinformationen und Desinformation die Liste der globalen Risiken erstrecken, genau gefolgt von extremen Wetterereignissen und gesellschaftlicher Polarisation. In dem Bericht werden auch Cyber ​​-Unsicherheit und zwischenstaatliche bewaffnete Konflikte unter den fünf besten Risiken aufgeführt.

Regionale Abweichungen der Risikowahrnehmung

Während Fehlinformationen und Desinformationen in Indien als das höchste Risiko eingestuft werden, belegt es in den USA und in der Europäischen Union den sechsten Platz. Das WEF weist darauf hin, dass die schnelle Beschleunigung der Fähigkeiten manipulierter Informationen, die auf einfache Zugang zu ausgefeilten Technologien und einen Rückgang des Vertrauens gegenüber Informationen und Institutionen zurückzuführen ist, die Situation verschärft.

Der Einfluss des synthetischen Inhalts

In den nächsten Jahren wird erwartet, dass eine Vielzahl von Akteuren den Anstieg des synthetischen Inhalts ausnutzt und gesellschaftliche Abteilungen, ideologische Gewalt und politische Repression weiter verstärkt. Mit fast drei Milliarden Menschen, die in Ländern wie Indien, Indonesien, den USA und Großbritannien abstimmen sollen, könnte die weit verbreitete Verbreitung von Fehlinformationen die Legitimität neu gewählter Regierungen gefährden.

Die einfache Zugriff auf benutzerfreundliche KI-Tools hat bereits zu einem Boom in gefälschten Informationen und "synthetischen" Inhalten wie erweitertem Sprachklonen und gefälschten Websites geführt. Das WEF warnt davor, dass dieser synthetische Inhalt Individuen, Schäden von Volkswirtschaften und Frakturgesellschaften in den nächsten zwei Jahren auf zahlreiche Weise manipulieren wird, die möglicherweise für verschiedene Zwecke verwendet werden, vom Klimaaktivismus bis hin zu eskalierenden Konflikten.

Aufkommende Bedrohungen und regulatorische Reaktionen

Neue Arten von Verbrechen, wie z. B. nicht einvernehmliche Deepfake-Pornografie und Börsenmarktmanipulation, steigen ebenfalls. Das WEF warnt davor, dass diese Probleme zu gewalttätigen Protesten, Hassverbrechen, zivilen Konflikten und Terrorismus führen könnten.

Als Reaktion darauf setzen einige Länder bereits neue Vorschriften implementieren, die sowohl auf die Hosts als auch auf die Ersteller von Online- und illegalen Inhalten abzielen. Die aufstrebende Regulierung der generativen KI, wie Chinas Anforderung an Wasserzeichen-AI-generierte Inhalte, kann dazu beitragen, falsche Informationen zu identifizieren, einschließlich unbeabsichtigter Fehlinformationen aus AI-generierten Inhalten. Das WEF stellt jedoch fest, dass das Regulierungstempo wahrscheinlich nicht mit der raschen Entwicklung der Technologie Schritt hält.

Die jüngsten technologischen Fortschritte haben das Volumen, die Reichweite und die Wirksamkeit gefälschter Informationen erhöht, was es schwieriger macht, nachzuverfolgen, zu Attribut und Kontrolle zu sein. Social -Media -Plattformen, die mit der Aufrechterhaltung der Integrität beauftragt sind, können durch mehrere überlappende Kampagnen überwältigt werden. Darüber hinaus wird die Desinformation zunehmend personalisiert und gezielt und verbreitet sich oft auf weniger transparenten Messaging -Plattformen wie WhatsApp oder WeChat.

Herausforderungen bei der Unterscheidung von AI-generierten Inhalten

Das WEF unterstreicht auch die wachsende Schwierigkeit bei der Unterscheidung zwischen AI-generierten und von Menschen erzeugten Inhalten, selbst für hoch entwickelte Erkennungssysteme und technisch versierte Personen. Einige Länder unternehmen jedoch Schritte, um diese Herausforderung anzugehen.

Singapurs Initiative zur Bekämpfung von Deepfakes

Singapur hat eine Investition von 20 Mio. SG $ (15,04 Mio. USD) in ein Online -Forschungsprogramm für Trust- und Sicherheit angekündigt, zu dem die Einrichtung eines Zentrums zur Entwicklung von Tools zur Bekämpfung schädlicher Online -Inhalte gehört. Diese Initiative wird vom Ministerium für Kommunikation und Information (MCI) geleitet und soll bis 2028 ausgeführt werden.

Das Center for Advanced Technologies in Online -Sicherheit, das in der ersten Hälfte von 2024 geplant ist, soll Forscher und Organisationen zusammenbringen, um ein robustes Ökosystem für ein sichereres Internet zu schaffen. Das Zentrum wird sich darauf konzentrieren, Tools zu entwickeln und anzupassen, um schädliche Inhalte wie Deepfakes und falsche Behauptungen zu erkennen, und wird auch an der Identifizierung gesellschaftlicher Schwachstellen und der Entwicklung von Interventionen zur Verringerung der Anfälligkeit für schädliche Inhalte arbeiten.

MCI hat sich bereits mit über 100 Fachleuten aus der Akademie sowie im öffentlichen und privaten Sektor beschäftigt, wobei 30 Teilnehmer direkt an der Arbeit des Zentrums beteiligt sind. Die entwickelten Tools werden zur Einführung getestet und vorgeschlagen, um das digitale Vertrauen durch Technologien wie Wasserzeichen und Content -Authentifizierung zu verbessern.

Die breiteren Auswirkungen von Fehlinformationen

Das WEF warnt davor, dass Fehlinformationen, wenn sie nicht überprüft werden, zu zwei kontrastierenden Szenarien führen könnte. Einerseits können einige Regierungen und Plattformen die Redefreiheit und die bürgerlichen Freiheiten priorisieren, was möglicherweise nicht effektiv gefälschte Informationen eindämmt, was zu einer umstrittenen Definition der „Wahrheit“ in allen Gesellschaften führt. Dies könnte von staatlichen und nichtstaatlichen Akteuren ausgenutzt werden, um die gesellschaftlichen Unterscheidungen zu vertiefen, das öffentliche Vertrauen in politische Institutionen zu untergraben und den nationalen Zusammenhalt zu gefährden.

Andererseits könnten einige Länder als Reaktion auf die Ausbreitung von Fehlinformationen auf eine erhöhte Kontrolle über Informationen zurückgreifen und inländische Propaganda und Zensur riskieren. Da das Konzept der Wahrheit untergraben wird, können die Regierungen mehr Macht erlangen, Informationen auf der Grundlage ihrer Definition der „Wahrheit“ zu kontrollieren, was möglicherweise zu einer breiteren Repression von Informationsströmen und einer weiteren Erosion von Internet-, Presse- und Informationszugriffsfreiheiten führt.