CAMBRIDGE – Die digitalen Technologen haben die Art und Weise, wie wir kommunizieren, zur Arbeit kommen, einkaufen, lernen und uns unterhalten, völlig verändert. Schon bald könnten Technologien wie die künstliche Intelligenz (KI), Big Data und das Internet der Dinge (IoT) auch Gesundheitswesen, Energieversorgung, Verkehr, Landwirtschaft, den öffentlichen Sektor, unsere natürliche Umwelt und sogar unseren Körper und Geist umgestalten.
Die Anwendung wissenschaftlicher Erkenntnisse auf gesellschaftliche Probleme hat den Menschen in der Vergangenheit enorme Dividenden eingetragen. Schon lange vor Erfindung des Siliziumchips haben medizinische und technologische Innovationen unser Leben deutlich bequemer gemacht – und verlängert. Doch die Geschichte strotzt zugleich vor Katastrophen, die durch die Macht der Wissenschaft und den Eifer, das menschliche Los zu verbessern, hervorgerufen wurden.
So führten etwa Bemühungen im Zusammenhang der Kollektivierung in der Sowjetunion oder Tansania, die Ernteerträge durch wissenschaftliche oder technologische Verbesserungen zu steigern, zu spektakulären Fehlschlägen. Manchmal führten Pläne zur Umgestaltung von Städten mittels der modernen Stadtplanung so gut wie zu deren Zerstörung. Der Politologe James Scott hat derartige Bemühungen zur Umgestaltung des Lebens anderer durch die Wissenschaft als Fälle von „Hochmodernismus“ bezeichnet.
Der Hochmodernismus ist eine gleichermaßen gefährliche wie dogmatisch vermessene Ideologie, die sich der Erkenntnis verweigert, dass vielen menschlichen Praktiken und Verhaltensweisen eine dem komplexen Umfeld, in dem wir uns entwickelt haben, angepasste Logik innewohnt. Wenn Hochmodernisten derartige Praktiken verwerfen, um einen wissenschaftlicheren und rationaleren Ansatz umzusetzen, scheitern sie fast immer.
Besonders schädlich sind hochmodernistische Vorhaben historisch betrachtet in den Händen eines autoritären Staates, der nach der Umgestaltung einer erschöpften, schwachen Gesellschaft strebt. Im Falle der sowjetischen Kollektivierung hatte der staatliche Autoritarismus seinen Ursprung in der von der Kommunistischen Partei beanspruchten „Führungsrolle“, und es gab keine irgendwie gearteten Organisationen, die ihm bei seinen Vorhaben wirksam hätten Widerstand leisten oder den dadurch in den Ruin getriebenen Kleinbauern hätten Schutz bieten können.
Doch ist Autoritarismus nicht ausschließlich Staaten vorbehalten. Er kann seinen Ursprung auch in jedem Anspruch schrankenlos überlegener Kenntnisse oder Fähigkeiten haben. Man denke an die aktuellen Bemühungen von Konzernen, Unternehmern und anderen, die unsere Welt durch digitale Technologien verbessern wollen. Jüngste Innovationen haben die Produktivität der Industrie enorm gesteigert, die Kommunikation verbessert und das Leben von Milliarden von Menschen bereichert. Doch sie könnten ohne Weiteres in ein hochmodernistisches Fiasko münden.
The newest issue of our magazine, PS Quarterly: Age of Extremes, is here. To gain digital access to all of the magazine’s content, and receive your print copy, subscribe to PS Premium now.
Subscribe Now
Zukunftstechnologien wie die KI, Big Data und das IoT werden häufig als Allheilmittel zur Optimierung der Arbeit, Erholung, Kommunikation und Krankenpflege beschrieben. Die Selbstüberhebung dabei besteht darin, dass wir glauben, von ganz normalen Menschen und den von ihnen im Rahmen anderer gesellschaftlicher Kontexte entwickelten Anpassungsmechanismen kaum etwas lernen zu können.
Das Problem ist, dass, beispielsweise, der bedingungsloser Glaube, die „KI [könne] alles besser“, ein Machtungleichgewicht zwischen denen schafft, die KI-Technologien entwickeln, und denen, deren Leben dadurch verändert wird. Letztere haben im Wesentlichen keinen Einfluss darauf, wie diese Anwendungen konzipiert und eingesetzt werden.
Die aktuellen Probleme, von denen die sozialen Medien betroffen sind, sind ein perfektes Beispiel dafür, was passieren kann, wenn uniforme Regeln ohne Rücksicht auf gesellschaftlichen Zusammenhang und die entwickelten Verhaltensweisen durchgesetzt werden. Die reichen, vielfältigen offline existierenden Kommunikationsmuster wurden durch vorgegebene, standardisierte und begrenzte Formen der Kommunikation auf Plattformen wie Facebook und Twitter ersetzt. Infolgedessen wurden die Nuancen einer Kommunikation von Angesicht zu Angesicht und von durch vertrauenswürdige Medien übermittelten Nachrichten verwischt. Bemühungen, technologisch „die Welt zu vernetzen“, haben zu einem Morast aus Propaganda, Desinformation, Hassreden und Mobbing geführt.
Doch ist dieser charakteristisch hochmodernistische Pfad keine Zwangsläufigkeit. Statt gesellschaftliche Zusammenhänge zu ignorieren, könnten die Entwickler neuer Technologien tatsächlich von den Erfahrungen und Bedenken der Normalbürger lernen. Die Technologien selbst könnten adaptiv statt anmaßend sein und darauf ausgelegt sein, die Gesellschaft zu stärken, statt sie zum Schweigen zu bringen.
Zwei Kräfte dürften die neuen Technologien in diese Richtung drängen. Die erste ist der Markt, der als Barriere gegen fehlgeleitete, von oben aufoktroyierte Vorhaben dienen könnte. Sobald sich die sowjetischen Planer für eine Kollektivierung der Landwirtschaft entschieden hatten, konnten die ukrainischen Dörfler kaum etwas tun, um sie aufzuhalten. Die Folge war massenhafter Hunger. Bei den heutigen digitalen Technologien ist dies anders; ihr Erfolg ist von Entscheidungen abhängig, die von Milliarden von Verbrauchern und Millionen von Unternehmen weltweit (mit der möglichen Ausnahme Chinas) getroffen werden.
Doch sollte man die Macht der vom Markt ausgehenden Beschränkungen nicht überhöhen. Es gibt keine Gewähr, dass der Markt die richtigen Technologien zur allgemeinen Übernahme auswählt. Auch wird er die negativen Auswirkungen einiger neuer Anwendungen nicht verinnerlichen. Die Tatsache, dass Facebook in einem Marktumfeld existiert und Informationen über seine 2,5 Milliarden aktiven Nutzer sammelt, bedeutet nicht, dass wir der Art und Weise vertrauen können, in der Facebook diese Daten nutzt. Der Markt gewährleistet eindeutig nicht, dass Facebooks Geschäftsmodell und die ihm zugrundeliegenden Technologien keine unerwarteten Folgen haben werden.
Damit die vom Markt ausgehenden Beschränkungen wirken, müssen sie durch einen zweiten, stärkeren Kontrollmechanismus verstärkt werden: eine demokratische Politik. Jeder Staat hat eine angemessene Rolle bei der Regulierung der Wirtschaftsaktivität und der Nutzung und Verbreitung neuer Technologien zu spielen. Häufig treibt demokratische Politik die Nachfrage nach einer derartigen Regulierung an. Sie ist zudem die beste Verteidigung gegen die Vereinnahmung staatlicher Politik durch rentenorientierte Unternehmen, die versuchen, ihre Marktanteile oder Gewinne zu steigern.
Die Demokratie bietet zudem den besten Mechanismus zur Äußerung unterschiedlicher Gesichtspunkte und zur Organisation des Widerstandes gegen kostspielige oder gefährliche hochmodernistische Vorhaben. Indem wir unsere Stimme erheben, können wir die schlimmsten Formen der Kontrolle, Überwachung und digitalen Manipulation verlangsamen oder sogar verhindern. Eine demokratische Stimme ist genau das, was den mit Kollektivierungsprogrammen konfrontierten Dörflern in der Ukraine und Tansania versagt wurde.
Doch reichen regelmäßige Wahlen nicht aus, um die großen Technologieunternehmen an der Schaffung eines hochmodernistischen Alptraums zu hindern. Insofern als neue Technologien freie Meinungsäußerung und politischen Kompromiss verhindern und die Konzentration der Macht aufseiten der Regierung oder des privaten Sektors vertiefen können, können sie das Funktionieren einer demokratischen Politik selbst unterbinden. Die Folge ist ein Teufelskreis. Sollte die Technologiewelt einen hochmodernistischen Kurs einschlagen, könnte sie letztlich unsere einzig zuverlässige Verteidigung gegen ihre Selbstüberhebung beschädigen: die demokratische Aufsicht darüber, wie neue Technologien entwickelt und eingesetzt werden. Wir als Verbraucher, Arbeitnehmer und Bürger sollten uns der Bedrohung daher umso bewusster sein, denn wir sind die Einzigen, die sie aufhalten können.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
Labour leader Keir Starmer’s incoming cabinet has more people of working-class origin than any British cabinet that came before it, and this remarkable feature will surely bear on policymaking. However, various countervailing forces will moderate any latent impulse to veer sharply to the left.
explain how the socioeconomic backgrounds of Labour’s cabinet members will, and will not, bear on policymaking.
If Russia, Saudi Arabia, and the world’s other large oil producers were to shift away from settling their oil trade in dollars, the implications for other commodity markets, global trade patterns, and financial stability would be enormous. But how plausible is this scenario in the foreseeable future?
considers whether Saudi Arabia would ever move away from invoicing its oil trade in US dollars.
CAMBRIDGE – Die digitalen Technologen haben die Art und Weise, wie wir kommunizieren, zur Arbeit kommen, einkaufen, lernen und uns unterhalten, völlig verändert. Schon bald könnten Technologien wie die künstliche Intelligenz (KI), Big Data und das Internet der Dinge (IoT) auch Gesundheitswesen, Energieversorgung, Verkehr, Landwirtschaft, den öffentlichen Sektor, unsere natürliche Umwelt und sogar unseren Körper und Geist umgestalten.
Die Anwendung wissenschaftlicher Erkenntnisse auf gesellschaftliche Probleme hat den Menschen in der Vergangenheit enorme Dividenden eingetragen. Schon lange vor Erfindung des Siliziumchips haben medizinische und technologische Innovationen unser Leben deutlich bequemer gemacht – und verlängert. Doch die Geschichte strotzt zugleich vor Katastrophen, die durch die Macht der Wissenschaft und den Eifer, das menschliche Los zu verbessern, hervorgerufen wurden.
So führten etwa Bemühungen im Zusammenhang der Kollektivierung in der Sowjetunion oder Tansania, die Ernteerträge durch wissenschaftliche oder technologische Verbesserungen zu steigern, zu spektakulären Fehlschlägen. Manchmal führten Pläne zur Umgestaltung von Städten mittels der modernen Stadtplanung so gut wie zu deren Zerstörung. Der Politologe James Scott hat derartige Bemühungen zur Umgestaltung des Lebens anderer durch die Wissenschaft als Fälle von „Hochmodernismus“ bezeichnet.
Der Hochmodernismus ist eine gleichermaßen gefährliche wie dogmatisch vermessene Ideologie, die sich der Erkenntnis verweigert, dass vielen menschlichen Praktiken und Verhaltensweisen eine dem komplexen Umfeld, in dem wir uns entwickelt haben, angepasste Logik innewohnt. Wenn Hochmodernisten derartige Praktiken verwerfen, um einen wissenschaftlicheren und rationaleren Ansatz umzusetzen, scheitern sie fast immer.
Besonders schädlich sind hochmodernistische Vorhaben historisch betrachtet in den Händen eines autoritären Staates, der nach der Umgestaltung einer erschöpften, schwachen Gesellschaft strebt. Im Falle der sowjetischen Kollektivierung hatte der staatliche Autoritarismus seinen Ursprung in der von der Kommunistischen Partei beanspruchten „Führungsrolle“, und es gab keine irgendwie gearteten Organisationen, die ihm bei seinen Vorhaben wirksam hätten Widerstand leisten oder den dadurch in den Ruin getriebenen Kleinbauern hätten Schutz bieten können.
Doch ist Autoritarismus nicht ausschließlich Staaten vorbehalten. Er kann seinen Ursprung auch in jedem Anspruch schrankenlos überlegener Kenntnisse oder Fähigkeiten haben. Man denke an die aktuellen Bemühungen von Konzernen, Unternehmern und anderen, die unsere Welt durch digitale Technologien verbessern wollen. Jüngste Innovationen haben die Produktivität der Industrie enorm gesteigert, die Kommunikation verbessert und das Leben von Milliarden von Menschen bereichert. Doch sie könnten ohne Weiteres in ein hochmodernistisches Fiasko münden.
Secure your copy of PS Quarterly: Age of Extremes
The newest issue of our magazine, PS Quarterly: Age of Extremes, is here. To gain digital access to all of the magazine’s content, and receive your print copy, subscribe to PS Premium now.
Subscribe Now
Zukunftstechnologien wie die KI, Big Data und das IoT werden häufig als Allheilmittel zur Optimierung der Arbeit, Erholung, Kommunikation und Krankenpflege beschrieben. Die Selbstüberhebung dabei besteht darin, dass wir glauben, von ganz normalen Menschen und den von ihnen im Rahmen anderer gesellschaftlicher Kontexte entwickelten Anpassungsmechanismen kaum etwas lernen zu können.
Das Problem ist, dass, beispielsweise, der bedingungsloser Glaube, die „KI [könne] alles besser“, ein Machtungleichgewicht zwischen denen schafft, die KI-Technologien entwickeln, und denen, deren Leben dadurch verändert wird. Letztere haben im Wesentlichen keinen Einfluss darauf, wie diese Anwendungen konzipiert und eingesetzt werden.
Die aktuellen Probleme, von denen die sozialen Medien betroffen sind, sind ein perfektes Beispiel dafür, was passieren kann, wenn uniforme Regeln ohne Rücksicht auf gesellschaftlichen Zusammenhang und die entwickelten Verhaltensweisen durchgesetzt werden. Die reichen, vielfältigen offline existierenden Kommunikationsmuster wurden durch vorgegebene, standardisierte und begrenzte Formen der Kommunikation auf Plattformen wie Facebook und Twitter ersetzt. Infolgedessen wurden die Nuancen einer Kommunikation von Angesicht zu Angesicht und von durch vertrauenswürdige Medien übermittelten Nachrichten verwischt. Bemühungen, technologisch „die Welt zu vernetzen“, haben zu einem Morast aus Propaganda, Desinformation, Hassreden und Mobbing geführt.
Doch ist dieser charakteristisch hochmodernistische Pfad keine Zwangsläufigkeit. Statt gesellschaftliche Zusammenhänge zu ignorieren, könnten die Entwickler neuer Technologien tatsächlich von den Erfahrungen und Bedenken der Normalbürger lernen. Die Technologien selbst könnten adaptiv statt anmaßend sein und darauf ausgelegt sein, die Gesellschaft zu stärken, statt sie zum Schweigen zu bringen.
Zwei Kräfte dürften die neuen Technologien in diese Richtung drängen. Die erste ist der Markt, der als Barriere gegen fehlgeleitete, von oben aufoktroyierte Vorhaben dienen könnte. Sobald sich die sowjetischen Planer für eine Kollektivierung der Landwirtschaft entschieden hatten, konnten die ukrainischen Dörfler kaum etwas tun, um sie aufzuhalten. Die Folge war massenhafter Hunger. Bei den heutigen digitalen Technologien ist dies anders; ihr Erfolg ist von Entscheidungen abhängig, die von Milliarden von Verbrauchern und Millionen von Unternehmen weltweit (mit der möglichen Ausnahme Chinas) getroffen werden.
Doch sollte man die Macht der vom Markt ausgehenden Beschränkungen nicht überhöhen. Es gibt keine Gewähr, dass der Markt die richtigen Technologien zur allgemeinen Übernahme auswählt. Auch wird er die negativen Auswirkungen einiger neuer Anwendungen nicht verinnerlichen. Die Tatsache, dass Facebook in einem Marktumfeld existiert und Informationen über seine 2,5 Milliarden aktiven Nutzer sammelt, bedeutet nicht, dass wir der Art und Weise vertrauen können, in der Facebook diese Daten nutzt. Der Markt gewährleistet eindeutig nicht, dass Facebooks Geschäftsmodell und die ihm zugrundeliegenden Technologien keine unerwarteten Folgen haben werden.
Damit die vom Markt ausgehenden Beschränkungen wirken, müssen sie durch einen zweiten, stärkeren Kontrollmechanismus verstärkt werden: eine demokratische Politik. Jeder Staat hat eine angemessene Rolle bei der Regulierung der Wirtschaftsaktivität und der Nutzung und Verbreitung neuer Technologien zu spielen. Häufig treibt demokratische Politik die Nachfrage nach einer derartigen Regulierung an. Sie ist zudem die beste Verteidigung gegen die Vereinnahmung staatlicher Politik durch rentenorientierte Unternehmen, die versuchen, ihre Marktanteile oder Gewinne zu steigern.
Die Demokratie bietet zudem den besten Mechanismus zur Äußerung unterschiedlicher Gesichtspunkte und zur Organisation des Widerstandes gegen kostspielige oder gefährliche hochmodernistische Vorhaben. Indem wir unsere Stimme erheben, können wir die schlimmsten Formen der Kontrolle, Überwachung und digitalen Manipulation verlangsamen oder sogar verhindern. Eine demokratische Stimme ist genau das, was den mit Kollektivierungsprogrammen konfrontierten Dörflern in der Ukraine und Tansania versagt wurde.
Doch reichen regelmäßige Wahlen nicht aus, um die großen Technologieunternehmen an der Schaffung eines hochmodernistischen Alptraums zu hindern. Insofern als neue Technologien freie Meinungsäußerung und politischen Kompromiss verhindern und die Konzentration der Macht aufseiten der Regierung oder des privaten Sektors vertiefen können, können sie das Funktionieren einer demokratischen Politik selbst unterbinden. Die Folge ist ein Teufelskreis. Sollte die Technologiewelt einen hochmodernistischen Kurs einschlagen, könnte sie letztlich unsere einzig zuverlässige Verteidigung gegen ihre Selbstüberhebung beschädigen: die demokratische Aufsicht darüber, wie neue Technologien entwickelt und eingesetzt werden. Wir als Verbraucher, Arbeitnehmer und Bürger sollten uns der Bedrohung daher umso bewusster sein, denn wir sind die Einzigen, die sie aufhalten können.