LONDÝN – Svět technologií v roce 2022 vynesl na titulní strany čerstvou spoustu zpráv. V říjnu Elon Musk koupil Twitter – jednu z hlavních platforem veřejné komunikace, již využívají novináři, akademici, podnikatelé a tvůrci politik – a přikročil k propuštění většiny personálu, který moderoval obsah; naznačil přitom, že společnost bude raději spoléhat na umělou inteligenci (UI).
V listopadu pak zaměstnanci skupiny Meta prozradili, že vyvinuli program UI schopný porazit většinu lidí ve strategické hře Diplomacie. V čínském Šen-čenu úřady využívají „digitálních dvojčat“ tisíců mobilních zařízení připojených k síti 5G, aby v reálném čase sledovali a řídili toky lidí, dopravy a spotřeby energie. A s nejnovější verzí modelu ChatGPT pro predikci jazyka leckdo vyhlašuje konec vysokoškolských referátů.
Krátce, byl to rok, kdy se vážné obavy ohledně toho, jak se technologie vyvíjejí a používají, prohloubily v ještě dotěrnější předtuchy. Kdo tady má situaci pod palcem? Kdo by ji měl mít pod palcem? Veřejné politiky a instituce by měly být uzpůsobeny tak, aby zajišťovaly, že inovace zlepšují svět, přesto se dnes mnohé technologie zavádějí ve vakuu. Potřebujeme inkluzivní úkolově zaměřené struktury veřejné správy, vybudované kolem skutečného obecného dobra. Schopné vlády dokážou tuto technologickou revoluci formovat tak, aby sloužila veřejnému zájmu.
Vezměme si UI, kterou Oxfordský slovník angličtiny definuje obecně jako „teorii a vývoj počítačových systémů schopných provádět úkony běžně vyžadující lidskou inteligenci, například vizuální vnímání, rozpoznávání řeči, rozhodování a překlad mezi jazyky“. UI nám může mnoha způsoby zlepšovat život. Zefektivněním zemědělství a posílením potravinové bezpečnosti dokáže zkvalitnit výrobu potravin a nakládání s nimi. Umí nám pomoci posílit odolnost proti přírodním pohromám, navrhovat energeticky účinné budovy, zlepšit ukládání energie a optimalizovat zavádění obnovitelné energie. A když se zkombinuje s hodnocením prováděným lékaři, je schopná zlepšit přesnost lékařské diagnostiky.
Tyto aplikace by nám v mnoha ohledech zlepšily život. Nebudou-li však zavedena účinná pravidla, UI bude pravděpodobně vytvářet nové nerovnosti a zesilovat ty stávající. Příklady systémů poháněných UI, které reprodukují nespravedlivé společenské předsudky, není třeba příliš hledat. V jednom nedávném experimentu začali být roboti ovládaní algoritmem strojového učení nepokrytě rasističtí a sexističtí. Bez lepšího dohledu by algoritmy, které mají veřejnému sektoru pomáhat se správou sociálních dávek, mohly diskriminovat skutečně potřebné rodiny. Neméně znepokojivá je skutečnost, že veřejné orgány v některých zemích už využívají technologii rozpoznávání tváří, fungující díky UI, ke sledování politického disentu a podrobení občanů režimům masového dohledu.
Podstatnou obavou je také tržní koncentrace. Vývoji UI – a kontrole nad jejím datovým podložím – dominuje pouhá hrstka mocných aktérů v několika lokalitách. V letech 2013 až 2021 celosvětově připadalo na Čínu a Spojené státy 80 % soukromých investic do UI. Mezi soukromými vlastníky těchto technologií a námi ostatními teď existuje ohromná mocenská nerovnováha.
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
UI ale podporují i masivní veřejné investice. Takové financování by mělo být řízeno ve prospěch obecného dobra, nikoli v zájmu úzkého okruhu. Potřebujeme digitální architekturu, která bude spravedlivěji rozdělovat přínosy kolektivního vytváření hodnot. Éra lehoučké seberegulace musí skončit. Kdykoli dopustíme, aby převážil tržní fundamentalismus, stát a daňoví poplatníci jsou odsouzeni k poskytování pomoci, až když dojde na nejhorší (jak jsme viděli v kontextu finanční krize roku 2008 a pandemie covidu-19), obvykle za vysokých finančních nákladů a s dlouho přetrvávajícími sociálními šrámy. Ještě horší je, že u UI ani nevíme, jestli taková ex post intervence postačí. Jak nedávno podotkl časopis The Economist, sami vývojáři UI jsou často překvapeni schopnostmi svých výtvorů.
Naštěstí už víme, jak další krizi vyvolané laissez-faire předejít. Potřebujeme, aby poslání UI bylo „vědomě etické“ a opíralo se o zdravou regulaci a schopné vlády usilující o formování této technologické revoluce ve veřejném zájmu, ne jen v zájmu akcionářů. Po vybudování takových pilířů bude soukromý sektor schopen a ochoten zapojit se do širší snahy zajistit, aby technologie byly bezpečnější a spravedlivější.
Účinný veřejný dohled by měl zajistit, aby digitalizace a UI vytvářely příležitosti pro vytváření veřejných hodnot. Tento princip je nedílnou součástí doporučení UNESCO ohledně etiky UI, normativního rámce, který v listopadu 2021 přijalo 193 členských států. Navíc se teď klíčoví aktéři ujímají odpovědnosti za přeformulování debaty; administrativa amerického prezidenta Joea Bidena navrhuje listinu základních práv a svobod pro oblast UI a Evropská unie vypracovává holistický rámec pro správu UI.
Přesto je zapotřebí také způsoby využití UI ve veřejném sektoru zachovat na zdravém etickém základě. Za situace, kdy UI podporuje další a další rozhodování, je důležité zajistit, aby se systémy UI nepoužívaly způsoby, které podvracejí demokracii nebo porušují lidská práva.
Rovněž se musíme vypořádat s nedostatkem investic do novátorských a správních schopností samotného veřejného sektoru. Nutnost dynamičtějších schopností veřejného sektoru zdůraznil covid-19. Nebudou-li například partnerství soukromého a veřejného sektoru regulovat robustní podmínky a omezení, agendu by mohly snadno uchvátit firmy.
Potíž je však v tom, že překážkou budování schopností veřejného sektoru se rostoucí měrou stává externí zajišťování veřejných zakázek. Vlády musí být schopné vyvíjet UI tak, aby u citlivých systémů nebyly závislé na soukromém sektoru, a dokázaly si tudíž zachovat kontrolu nad důležitými produkty a zajistit, že budou dodržovány etické standardy. Obdobně musejí být schopné podporovat sdílení informací a interoperabilní protokoly a metriky napříč odbory a ministerstvy. To vše bude vyžadovat veřejné investice do vládních schopností, v návaznosti na úkolově orientovaný přístup.
Vzhledem k tomu, kolik znalostí a zkušeností se v současnosti soustředí v soukromé sféře, synergie mezi soukromým a veřejným sektorem budou nevyhnutelné a žádoucí. Podstatou orientace na poslání je volba ochotných – společným investováním s partnery, kteří uznávají potenciál vládou vedených misí. Klíčem je vybavit stát schopností řídit, jak se budou systémy UI zavádět a používat, než aby jen neustále doháněl zpoždění. Za účelem sdílení rizik a přínosů veřejných investic mohou tvůrci politik k veřejnému financování připojit podmínky. Mohou a měli by také vyžadovat, aby velké technologické firmy byly otevřenější a transparentnější.
V sázce je budoucnost našich společností. Musíme nejen napravit problémy a dostat pod kontrolu rizika negativního vývoje UI, ale také obecněji utvářet směřování digitální transformace a technologického novátorství. Začátek nového roku je ideální dobou, kdy začít pokládat základy bezmezného novátorství v zájmu všech.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
Adekeye Adebajo
argues that Israel’s war in Gaza is accelerating the trend toward global apartheid, highlights the strengths and weaknesses of United Nations peacekeeping missions, criticizes the militarization of US engagement with Africa, and more.
The models are in place to achieve clean cooking for all, which would have enormous benefits for the climate, health, and gender equality. Now rich-country governments, the private sector, and international organizations must agree to provide the necessary funding at this week’s IEA Summit on Clean Cooking in Africa.
urge global leaders to provide the financing to end a practice with dire effects for health and the climate.
The dollar's strength, particularly against major Asian currencies, has triggered a wave of skittishness in financial markets. Can anything be done to stem the greenback's rise, and even if something can be done, should it?
asks whether anything can or should be done about the greenback's strength, especially against Asian currencies.
LONDÝN – Svět technologií v roce 2022 vynesl na titulní strany čerstvou spoustu zpráv. V říjnu Elon Musk koupil Twitter – jednu z hlavních platforem veřejné komunikace, již využívají novináři, akademici, podnikatelé a tvůrci politik – a přikročil k propuštění většiny personálu, který moderoval obsah; naznačil přitom, že společnost bude raději spoléhat na umělou inteligenci (UI).
V listopadu pak zaměstnanci skupiny Meta prozradili, že vyvinuli program UI schopný porazit většinu lidí ve strategické hře Diplomacie. V čínském Šen-čenu úřady využívají „digitálních dvojčat“ tisíců mobilních zařízení připojených k síti 5G, aby v reálném čase sledovali a řídili toky lidí, dopravy a spotřeby energie. A s nejnovější verzí modelu ChatGPT pro predikci jazyka leckdo vyhlašuje konec vysokoškolských referátů.
Krátce, byl to rok, kdy se vážné obavy ohledně toho, jak se technologie vyvíjejí a používají, prohloubily v ještě dotěrnější předtuchy. Kdo tady má situaci pod palcem? Kdo by ji měl mít pod palcem? Veřejné politiky a instituce by měly být uzpůsobeny tak, aby zajišťovaly, že inovace zlepšují svět, přesto se dnes mnohé technologie zavádějí ve vakuu. Potřebujeme inkluzivní úkolově zaměřené struktury veřejné správy, vybudované kolem skutečného obecného dobra. Schopné vlády dokážou tuto technologickou revoluci formovat tak, aby sloužila veřejnému zájmu.
Vezměme si UI, kterou Oxfordský slovník angličtiny definuje obecně jako „teorii a vývoj počítačových systémů schopných provádět úkony běžně vyžadující lidskou inteligenci, například vizuální vnímání, rozpoznávání řeči, rozhodování a překlad mezi jazyky“. UI nám může mnoha způsoby zlepšovat život. Zefektivněním zemědělství a posílením potravinové bezpečnosti dokáže zkvalitnit výrobu potravin a nakládání s nimi. Umí nám pomoci posílit odolnost proti přírodním pohromám, navrhovat energeticky účinné budovy, zlepšit ukládání energie a optimalizovat zavádění obnovitelné energie. A když se zkombinuje s hodnocením prováděným lékaři, je schopná zlepšit přesnost lékařské diagnostiky.
Tyto aplikace by nám v mnoha ohledech zlepšily život. Nebudou-li však zavedena účinná pravidla, UI bude pravděpodobně vytvářet nové nerovnosti a zesilovat ty stávající. Příklady systémů poháněných UI, které reprodukují nespravedlivé společenské předsudky, není třeba příliš hledat. V jednom nedávném experimentu začali být roboti ovládaní algoritmem strojového učení nepokrytě rasističtí a sexističtí. Bez lepšího dohledu by algoritmy, které mají veřejnému sektoru pomáhat se správou sociálních dávek, mohly diskriminovat skutečně potřebné rodiny. Neméně znepokojivá je skutečnost, že veřejné orgány v některých zemích už využívají technologii rozpoznávání tváří, fungující díky UI, ke sledování politického disentu a podrobení občanů režimům masového dohledu.
Podstatnou obavou je také tržní koncentrace. Vývoji UI – a kontrole nad jejím datovým podložím – dominuje pouhá hrstka mocných aktérů v několika lokalitách. V letech 2013 až 2021 celosvětově připadalo na Čínu a Spojené státy 80 % soukromých investic do UI. Mezi soukromými vlastníky těchto technologií a námi ostatními teď existuje ohromná mocenská nerovnováha.
Subscribe to PS Digital
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
UI ale podporují i masivní veřejné investice. Takové financování by mělo být řízeno ve prospěch obecného dobra, nikoli v zájmu úzkého okruhu. Potřebujeme digitální architekturu, která bude spravedlivěji rozdělovat přínosy kolektivního vytváření hodnot. Éra lehoučké seberegulace musí skončit. Kdykoli dopustíme, aby převážil tržní fundamentalismus, stát a daňoví poplatníci jsou odsouzeni k poskytování pomoci, až když dojde na nejhorší (jak jsme viděli v kontextu finanční krize roku 2008 a pandemie covidu-19), obvykle za vysokých finančních nákladů a s dlouho přetrvávajícími sociálními šrámy. Ještě horší je, že u UI ani nevíme, jestli taková ex post intervence postačí. Jak nedávno podotkl časopis The Economist, sami vývojáři UI jsou často překvapeni schopnostmi svých výtvorů.
Naštěstí už víme, jak další krizi vyvolané laissez-faire předejít. Potřebujeme, aby poslání UI bylo „vědomě etické“ a opíralo se o zdravou regulaci a schopné vlády usilující o formování této technologické revoluce ve veřejném zájmu, ne jen v zájmu akcionářů. Po vybudování takových pilířů bude soukromý sektor schopen a ochoten zapojit se do širší snahy zajistit, aby technologie byly bezpečnější a spravedlivější.
Účinný veřejný dohled by měl zajistit, aby digitalizace a UI vytvářely příležitosti pro vytváření veřejných hodnot. Tento princip je nedílnou součástí doporučení UNESCO ohledně etiky UI, normativního rámce, který v listopadu 2021 přijalo 193 členských států. Navíc se teď klíčoví aktéři ujímají odpovědnosti za přeformulování debaty; administrativa amerického prezidenta Joea Bidena navrhuje listinu základních práv a svobod pro oblast UI a Evropská unie vypracovává holistický rámec pro správu UI.
Přesto je zapotřebí také způsoby využití UI ve veřejném sektoru zachovat na zdravém etickém základě. Za situace, kdy UI podporuje další a další rozhodování, je důležité zajistit, aby se systémy UI nepoužívaly způsoby, které podvracejí demokracii nebo porušují lidská práva.
Rovněž se musíme vypořádat s nedostatkem investic do novátorských a správních schopností samotného veřejného sektoru. Nutnost dynamičtějších schopností veřejného sektoru zdůraznil covid-19. Nebudou-li například partnerství soukromého a veřejného sektoru regulovat robustní podmínky a omezení, agendu by mohly snadno uchvátit firmy.
Potíž je však v tom, že překážkou budování schopností veřejného sektoru se rostoucí měrou stává externí zajišťování veřejných zakázek. Vlády musí být schopné vyvíjet UI tak, aby u citlivých systémů nebyly závislé na soukromém sektoru, a dokázaly si tudíž zachovat kontrolu nad důležitými produkty a zajistit, že budou dodržovány etické standardy. Obdobně musejí být schopné podporovat sdílení informací a interoperabilní protokoly a metriky napříč odbory a ministerstvy. To vše bude vyžadovat veřejné investice do vládních schopností, v návaznosti na úkolově orientovaný přístup.
Vzhledem k tomu, kolik znalostí a zkušeností se v současnosti soustředí v soukromé sféře, synergie mezi soukromým a veřejným sektorem budou nevyhnutelné a žádoucí. Podstatou orientace na poslání je volba ochotných – společným investováním s partnery, kteří uznávají potenciál vládou vedených misí. Klíčem je vybavit stát schopností řídit, jak se budou systémy UI zavádět a používat, než aby jen neustále doháněl zpoždění. Za účelem sdílení rizik a přínosů veřejných investic mohou tvůrci politik k veřejnému financování připojit podmínky. Mohou a měli by také vyžadovat, aby velké technologické firmy byly otevřenější a transparentnější.
V sázce je budoucnost našich společností. Musíme nejen napravit problémy a dostat pod kontrolu rizika negativního vývoje UI, ale také obecněji utvářet směřování digitální transformace a technologického novátorství. Začátek nového roku je ideální dobou, kdy začít pokládat základy bezmezného novátorství v zájmu všech.
Z angličtiny přeložil David Daduč