ZÜRICH: Im vergangenen Oktober verabschiedete die Europäische Kommission eine neue Roadmap zur Bekämpfung von Drogenhandel und organisierter Kriminalität, einer der größten Sicherheitsbedrohungen für die EU. Kartellmitglieder wurden von den politischen Entscheidungsträgern der Europäischen Union aus offensichtlichen Gründen nicht zur Mitwirkung bei der Ausarbeitung dieser Strategie eingeladen; das hätte es den kriminellen Netzwerken nur erleichtert, weiterhin ungestraft zu operieren.
Doch bei der Regulierung des digitalen Wandels und der künstlichen Intelligenz, die beide unzählige Risiken bergen, tun die politischen Entscheidungsträger das Gegenteil. Sie arbeiten mit Big-Tech-Unternehmen wie Meta (Facebook), Alphabet (Google), Amazon, Apple und Microsoft zusammen, obwohl deren Führungskräfte eine unverfrorene Bereitschaft gezeigt haben, im Namen der Gewinnmaximierung gefährliche Tools zu entwickeln und die Nutzer zu schädigen.
So bereiten beispielsweise nationale, regionale und internationale „Arbeitsgruppen“, „Expertengruppen“ und „Beiräte“, denen auch Vertreter von Big-Tech-Unternehmen angehören, Vorschläge zur Regulierung des digitalen Wandels und der KI vor. Darüber hinaus werden einige Initiativen und Konferenzen zu diesem Thema von eben jenen Unternehmen finanziert, die im Rahmen dieser Bestrebungen reguliert werden sollen.
Die von digitalen Systemen ausgehenden Bedrohungen sind komplex und weitreichend. Die neuen Technologien führen zu einer drastischen Verschärfung der globalen Ungleichheit, und die Tech-Giganten haben sich als massive Energieverbraucher entpuppt, was ernsthafte Auswirkungen auf den Klimawandel und die Umwelt hat. Vielleicht am besorgniserregendsten sind die nahezu ständigen Verletzungen des Rechts auf Privatsphäre aufgrund mangelnder Datensicherheit oder fehlenden Schutzes vor Überwachung. Es ist in der Branche gängige Praxis, riesige Datenmengen zu sammeln und an den Meistbietenden zu verkaufen. Infolgedessen scheinen die digitalen Plattformen uns besser zu kennen als wir uns selbst, und das Online-Leben ist von wirtschaftlicher und politischer Manipulation durchdrungen.
Darüber hinaus haben sich algorithmische Manipulationen und Desinformationen bereits als Bedrohung für das ordnungsgemäße Funktionieren der Demokratie erwiesen. So sammelte etwa die Politikberatungsfirma Cambridge Analytica im Vorfeld der Präsidentschaftswahlen 2016 in den USA Informationen von 87 Millionen Facebook-Nutzern, um Wähler zu beeinflussen. In ähnlicher Weise hatten das Unternehmen und seine Tochtergesellschaften bereits Daten missbraucht, um die Brexit-Abstimmung in Großbritannien zu beeinflussen.
In jüngster Zeit hat die rasche Entwicklung großer Sprachmodelle (LLMs) wie ChatGPT von OpenAI unter anderem durch Audio- und visuelle Deepfakes, die den Ruf von Menschen zerstören können, neue Wege für Betrug eröffnet. Die LLMs begünstigen zudem die Verbreitung von Fake News, eine Geißel, die in den Demokratien besonders stark zu spüren ist. Eine Flut KI-generierter Inhalte verdrängt hier den Qualitätsjournalismus und droht, komplette Länder innerhalb weniger Stunden zu destabilisieren (wie bei den jüngsten rechtsextremen Ausschreitungen in Großbritannien geschehen). Darüber hinaus lassen sich dieselben Strategien nutzen, um die Verbraucher zu täuschen.
Project Syndicate is returning to Climate Week NYC with an even more expansive program. Join us live on September 22 as we welcome speakers from around the world at our studio in Manhattan to address critical dimensions of the climate debate.
Register Now
Aber das ist noch nicht alles: Die Nutzung sozialer Medien wird mit erheblichen psychischen Problemen bei jungen Menschen in Verbindung gebracht. Und viele in diesem Bereich tätige Personen haben sich besorgt über die destabilisierenden Auswirkungen geäußert, die KI-gestützte Cyberangriffe und autonome Waffen auf den internationalen Frieden und die Sicherheit haben könnten, ganz zu schweigen von den von diesen Waffen ausgehenden existenziellen Risiken.
Die großen Technologieunternehmen haben stets wenig Bedenken gezeigt, Menschen zu schaden und ihre Rechte zu verletzen. Dies gilt insbesondere für Social-Media-Unternehmen, die in der Regel mehr Werbeeinnahmen erzielen, je länger Nutzer auf ihren Plattformen verweilen. Im Jahr 2021 legte ein Whistleblower Dokumente vor, aus denen hervorging, dass Facebook wusste, dass seine Algorithmen und Plattformen schädliche Inhalte fördern, es aber versäumte, wirksame Gegenmaßnahmen zu ergreifen. Das sollte nicht überraschen: Studien ergaben, dass Nutzer mehr Zeit online verbringen, wenn sie Hass, Ärger und Wut äußern.
Trotz ihrer mangelnden Bereitschaft zur Selbstregulierung möchten die großen Technologieunternehmen bei der Ausarbeitung von Vorschriften für den digitalen Raum und die KI mitwirken. Es ist sowohl ironisch als auch tragisch, diesen Unternehmen einen Platz am Tisch einzuräumen. Regierungen und internationale Gemeinschaft lassen zu, dass diese Giganten den Prozess der Schaffung eines neuen globalen Regulierungsrahmens und der Einrichtung von Aufsichtsmechanismen dominieren. Aber es ist ein gefährlicher Fehler, denjenigen zu vertrauen, die von den grundlegenden Problemen des Sektors profitieren.
Die gute Nachricht ist, dass es viele unabhängige Experten und Wissenschaftler gibt, die wertvolle Hinweise dazu geben können, wie sich Entwicklung und Nutzung der KI und anderer digitaler Technologien am besten regulieren lassen. Natürlich muss der private Sektor in diese politischen Entscheidungsprozesse einbezogen werden, aber nicht mehr als andere Interessengruppen, einschließlich zivilgesellschaftlicher Organisationen.
Die technologische Innovation sollte nicht länger nur den Interessen einiger weniger multinationaler Konzerne dienen. Um eine nachhaltige Zukunft zu gewährleisten, in der alle Menschen ein Leben in Würde und Wohlstand führen können, darf die Politik nicht zulassen, dass die Tech-Giganten die Regulierung digitaler Plattformen und neuer KI-Anwendungen bestimmen.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
New research on the importance of cross-border knowledge and technology spillovers suggests that government support alone cannot guarantee success in an industry. That is why Taiwan and South Korea's semiconductor industrial policies succeeded, while China's has not.
demonstrates that while subsidies can help, knowledge and technology transfers are crucial.
To secure a lasting peace, Ukraine’s allies must make Vladimir Putin understand that he cannot dictate the terms. Guaranteeing Ukraine’s security will require increased military support, a clear path to NATO membership, and international support for President Volodymyr Zelensky’s peace plan.
outline steps that global leaders can take to ensure a Ukrainian victory and deter future Russian aggression.
ZÜRICH: Im vergangenen Oktober verabschiedete die Europäische Kommission eine neue Roadmap zur Bekämpfung von Drogenhandel und organisierter Kriminalität, einer der größten Sicherheitsbedrohungen für die EU. Kartellmitglieder wurden von den politischen Entscheidungsträgern der Europäischen Union aus offensichtlichen Gründen nicht zur Mitwirkung bei der Ausarbeitung dieser Strategie eingeladen; das hätte es den kriminellen Netzwerken nur erleichtert, weiterhin ungestraft zu operieren.
Doch bei der Regulierung des digitalen Wandels und der künstlichen Intelligenz, die beide unzählige Risiken bergen, tun die politischen Entscheidungsträger das Gegenteil. Sie arbeiten mit Big-Tech-Unternehmen wie Meta (Facebook), Alphabet (Google), Amazon, Apple und Microsoft zusammen, obwohl deren Führungskräfte eine unverfrorene Bereitschaft gezeigt haben, im Namen der Gewinnmaximierung gefährliche Tools zu entwickeln und die Nutzer zu schädigen.
So bereiten beispielsweise nationale, regionale und internationale „Arbeitsgruppen“, „Expertengruppen“ und „Beiräte“, denen auch Vertreter von Big-Tech-Unternehmen angehören, Vorschläge zur Regulierung des digitalen Wandels und der KI vor. Darüber hinaus werden einige Initiativen und Konferenzen zu diesem Thema von eben jenen Unternehmen finanziert, die im Rahmen dieser Bestrebungen reguliert werden sollen.
Die von digitalen Systemen ausgehenden Bedrohungen sind komplex und weitreichend. Die neuen Technologien führen zu einer drastischen Verschärfung der globalen Ungleichheit, und die Tech-Giganten haben sich als massive Energieverbraucher entpuppt, was ernsthafte Auswirkungen auf den Klimawandel und die Umwelt hat. Vielleicht am besorgniserregendsten sind die nahezu ständigen Verletzungen des Rechts auf Privatsphäre aufgrund mangelnder Datensicherheit oder fehlenden Schutzes vor Überwachung. Es ist in der Branche gängige Praxis, riesige Datenmengen zu sammeln und an den Meistbietenden zu verkaufen. Infolgedessen scheinen die digitalen Plattformen uns besser zu kennen als wir uns selbst, und das Online-Leben ist von wirtschaftlicher und politischer Manipulation durchdrungen.
Darüber hinaus haben sich algorithmische Manipulationen und Desinformationen bereits als Bedrohung für das ordnungsgemäße Funktionieren der Demokratie erwiesen. So sammelte etwa die Politikberatungsfirma Cambridge Analytica im Vorfeld der Präsidentschaftswahlen 2016 in den USA Informationen von 87 Millionen Facebook-Nutzern, um Wähler zu beeinflussen. In ähnlicher Weise hatten das Unternehmen und seine Tochtergesellschaften bereits Daten missbraucht, um die Brexit-Abstimmung in Großbritannien zu beeinflussen.
In jüngster Zeit hat die rasche Entwicklung großer Sprachmodelle (LLMs) wie ChatGPT von OpenAI unter anderem durch Audio- und visuelle Deepfakes, die den Ruf von Menschen zerstören können, neue Wege für Betrug eröffnet. Die LLMs begünstigen zudem die Verbreitung von Fake News, eine Geißel, die in den Demokratien besonders stark zu spüren ist. Eine Flut KI-generierter Inhalte verdrängt hier den Qualitätsjournalismus und droht, komplette Länder innerhalb weniger Stunden zu destabilisieren (wie bei den jüngsten rechtsextremen Ausschreitungen in Großbritannien geschehen). Darüber hinaus lassen sich dieselben Strategien nutzen, um die Verbraucher zu täuschen.
PS Events: Climate Week NYC 2024
Project Syndicate is returning to Climate Week NYC with an even more expansive program. Join us live on September 22 as we welcome speakers from around the world at our studio in Manhattan to address critical dimensions of the climate debate.
Register Now
Aber das ist noch nicht alles: Die Nutzung sozialer Medien wird mit erheblichen psychischen Problemen bei jungen Menschen in Verbindung gebracht. Und viele in diesem Bereich tätige Personen haben sich besorgt über die destabilisierenden Auswirkungen geäußert, die KI-gestützte Cyberangriffe und autonome Waffen auf den internationalen Frieden und die Sicherheit haben könnten, ganz zu schweigen von den von diesen Waffen ausgehenden existenziellen Risiken.
Die großen Technologieunternehmen haben stets wenig Bedenken gezeigt, Menschen zu schaden und ihre Rechte zu verletzen. Dies gilt insbesondere für Social-Media-Unternehmen, die in der Regel mehr Werbeeinnahmen erzielen, je länger Nutzer auf ihren Plattformen verweilen. Im Jahr 2021 legte ein Whistleblower Dokumente vor, aus denen hervorging, dass Facebook wusste, dass seine Algorithmen und Plattformen schädliche Inhalte fördern, es aber versäumte, wirksame Gegenmaßnahmen zu ergreifen. Das sollte nicht überraschen: Studien ergaben, dass Nutzer mehr Zeit online verbringen, wenn sie Hass, Ärger und Wut äußern.
Trotz ihrer mangelnden Bereitschaft zur Selbstregulierung möchten die großen Technologieunternehmen bei der Ausarbeitung von Vorschriften für den digitalen Raum und die KI mitwirken. Es ist sowohl ironisch als auch tragisch, diesen Unternehmen einen Platz am Tisch einzuräumen. Regierungen und internationale Gemeinschaft lassen zu, dass diese Giganten den Prozess der Schaffung eines neuen globalen Regulierungsrahmens und der Einrichtung von Aufsichtsmechanismen dominieren. Aber es ist ein gefährlicher Fehler, denjenigen zu vertrauen, die von den grundlegenden Problemen des Sektors profitieren.
Die gute Nachricht ist, dass es viele unabhängige Experten und Wissenschaftler gibt, die wertvolle Hinweise dazu geben können, wie sich Entwicklung und Nutzung der KI und anderer digitaler Technologien am besten regulieren lassen. Natürlich muss der private Sektor in diese politischen Entscheidungsprozesse einbezogen werden, aber nicht mehr als andere Interessengruppen, einschließlich zivilgesellschaftlicher Organisationen.
Die technologische Innovation sollte nicht länger nur den Interessen einiger weniger multinationaler Konzerne dienen. Um eine nachhaltige Zukunft zu gewährleisten, in der alle Menschen ein Leben in Würde und Wohlstand führen können, darf die Politik nicht zulassen, dass die Tech-Giganten die Regulierung digitaler Plattformen und neuer KI-Anwendungen bestimmen.
Aus dem Englischen von Jan Doolan