BERLIM – Poucas semanas depois de começarem a aparecer os primeiros casos de COVID-19 fora da China, a Coreia do Sul lançou um sistema para transmissão dos perfis e movimentos exactos dos indivíduos com resultados positivos no teste à doença. Depois, outros países asiáticos e europeus desenvolveram rapidamente os seus próprios sistemas de monitorização e localização (NdT: no original, “track-and-trace” systems) com maior ou menor êxito e consideração pelas questões éticas envolvidas.
Esta forte dinâmica era compreensível: se já existem sistemas capazes de salvar milhares de vidas, porque é que os países não os usariam? Mas no seu afã para combater a pandemia, as sociedades prestaram pouca atenção ao modo como essas iniciativas puderam ser introduzidas virtualmente de um dia para o outro, e àquilo que deveremos esperar em seguida.
Na verdade, o regime de monitorização e localização da Coreia do Sul já gerou um debate considerável. Inicialmente, isso ocorreu porque o sistema transgrediu limites éticos, ao enviar mensagens com os movimentos precisos de indivíduos que testaram positivo para a COVID-19 a outros residentes locais, revelando visitas a bares de karaoke, a hotéis para estadias rápidas e a clubes gay, por exemplo.
Mas o sistema sul-coreano também se destaca por relacionar os dados de localização dos telemóveis com históricos de deslocações individuais, dados de saúde, imagens de câmaras CCTV controladas pela polícia e dados de dúzias de empresas de cartões de crédito. Estas informações são seguidamente analisadas por uma câmara de compensação para dados originalmente desenvolvida para as cidades inteligentes do país. Ao remover as barreiras burocráticas à aprovação, este sistema alegadamente reduziu os tempos de monitorização de contactos de um dia para apenas dez minutos.
Há anos que os defensores da privacidade e da segurança digitais alertam para a interligação de várias fontes privadas e públicas de dados. Mas a pandemia demonstrou pela primeira vez a rapidez com que esses fluxos de dados podem ser centralizados e associados a pedido – não apenas na Coreia do Sul, mas em todo o mundo.
A verdade inconveniente é que temos estado a construir a infra-estrutura para recolher dados comportamentais profundamente pessoais à escala global já há algum tempo. A autora Shoshana Zuboff relaciona o nascimento deste “capitalismo de vigilância” com a expansão dos poderes securitários estatais verificada no rescaldo dos ataques terroristas de 11 de Setembro de 2001 nos Estados Unidos.
Os modelos de negócio assentes em dados impulsionaram os elementos principais desta infra-estrutura: smartphones, sensores, câmaras, dinheiro digital, biometria e aprendizagem automática. As suas vantagens e a sua eficiência – ao prometerem fazer mais com menos – convenceram tanto os utilizadores individuais como as empresas. Mas a nossa adopção rápida e entusiasta das tecnologias digitais deixou-nos com pouco tempo e escassos motivos para pensarmos sobre as consequências associadas à articulação de todas estas realidades.
Embora os meios de comunicação se refiram frequentemente às iniciativas tecnológicas relacionadas com a pandemia como “inovadoras”, existe pouco de novo nelas – excepto, talvez, a sua visibilidade acrescida. A monitorização dos movimentos tanto a nível individual como a nível global está no centro de muitos negócios. Os relatórios de mobilidade da COVID-19 da Google, por exemplo, apresentam um conjunto estonteante de dados a nível dos utilizadores, das cidades e dos países – mostrando quem fica em casa, quem vai trabalhar, e o modo como estes padrões foram alterados pelo confinamento.
O mesmo acontece com os dados sobre o que compramos e o modo como agimos enquanto indivíduos e grupos. A monitorização em larga escala dos padrões comportamentais individuais é tão central para a automatização que os confinamentos relacionados com a pandemia e que envolveram mais de quatro mil milhões de pessoas confundiram modelos de IA e de aprendizagem automática, perturbando deste modo os algoritmos para detecção de fraudes e induzindo em erro os sistemas de gestão de cadeias de abastecimento.
Esta súbita visibilidade pública dos dados comportamentais desencadeou uma consciencialização pública. Afinal, as revelações de Edward Snowden tornaram as pessoas cientes de que as suas chamadas por Skype e os seus e-mails eram monitorizados em nome do combate ao terrorismo, e o escândalo Cambridge Analytica no Reino Unido evidenciou a venda e utilização de dados pessoais para o micro-direccionamento político.
Em particular, a crise da COVID-19 poderia ter demonstrado o modo como os dados comportamentais contam histórias sobre o que fazemos durante todos os minutos do dia, e porque é que isso é importante. Em vez disso, aceitámos estas tecnologias porque as percepcionamos – pelo menos, durante a crise actual – como sendo em grande medida destinadas ao bem maior (mesmo que ignoremos a questão da sua eficácia).
Mas à medida que os limites entre a saúde privada e a saúde pública se tornam mais permanentemente difusos, podemos pensar de forma diferente sobre as concessões que nos pedem que façamos. Podemos tornar-nos menos tolerantes à monitorização comportamental se os hábitos de vida individuais forem constantemente monitorizados em nome do bem colectivo. As potenciais tecnologias que nos ajudarão a gerir um futuro pós-pandemia, das ferramentas de vigilância no local de trabalho aos passaportes sanitários digitais permanentes, podem desafiar seriamente os nossos sistemas de valores. Isto poderá originar uma profunda discordância entre diferentes orientações culturais e políticas sobre quais as tecnologias que devem ou não devem ser aproveitadas.
Seria simples enquadrar todo este debate em termos de vigilância e de privacidade. Mas essa não é a única questão importante em jogo. A recolha em grande escala de dados comportamentais íntimos não só alimenta grandes empresas mas também permite a elaboração de modelos previsionais, sistemas de alerta precoce e sistemas nacionais e globais para execução e controlo. Além disso, o futuro será provavelmente marcado por crises, de catástrofes naturais a fomes e pandemias. E as tecnologias digitais, os dados comportamentais humanos e a tomada de decisões através de algoritmos desempenharão um papel cada vez mais crucial na sua previsão, atenuação e gestão.
Por conseguinte, as sociedades terão de enfrentar questões difíceis sobre o modo como lidam com desafios para além das liberdades cívicas e dos enviesamentos nocivos, da discriminação e das desigualdades reveladas pelas tecnologias de recolha de dados. Teremos de decidir quem será responsável pelas percepções comportamentais e como estas devem ser usadas no interesse público. E teremos de reconhecer que as pessoas que tomem decisões baseadas nesses dados, e as ideias políticas que as motivam, criarão novas formas de poder com efeitos profundos sobre as nossas vidas.
À medida que confiamos cada vez mais nos grandes volumes de dados para a resolução de problemas importantes, a principal questão que enfrentamos não é o que podemos fazer com eles, mas antes o que estamos dispostos a fazer. Se não colocarmos essa questão, não participaremos na sua resposta.
BERLIM – Poucas semanas depois de começarem a aparecer os primeiros casos de COVID-19 fora da China, a Coreia do Sul lançou um sistema para transmissão dos perfis e movimentos exactos dos indivíduos com resultados positivos no teste à doença. Depois, outros países asiáticos e europeus desenvolveram rapidamente os seus próprios sistemas de monitorização e localização (NdT: no original, “track-and-trace” systems) com maior ou menor êxito e consideração pelas questões éticas envolvidas.
Esta forte dinâmica era compreensível: se já existem sistemas capazes de salvar milhares de vidas, porque é que os países não os usariam? Mas no seu afã para combater a pandemia, as sociedades prestaram pouca atenção ao modo como essas iniciativas puderam ser introduzidas virtualmente de um dia para o outro, e àquilo que deveremos esperar em seguida.
Na verdade, o regime de monitorização e localização da Coreia do Sul já gerou um debate considerável. Inicialmente, isso ocorreu porque o sistema transgrediu limites éticos, ao enviar mensagens com os movimentos precisos de indivíduos que testaram positivo para a COVID-19 a outros residentes locais, revelando visitas a bares de karaoke, a hotéis para estadias rápidas e a clubes gay, por exemplo.
Mas o sistema sul-coreano também se destaca por relacionar os dados de localização dos telemóveis com históricos de deslocações individuais, dados de saúde, imagens de câmaras CCTV controladas pela polícia e dados de dúzias de empresas de cartões de crédito. Estas informações são seguidamente analisadas por uma câmara de compensação para dados originalmente desenvolvida para as cidades inteligentes do país. Ao remover as barreiras burocráticas à aprovação, este sistema alegadamente reduziu os tempos de monitorização de contactos de um dia para apenas dez minutos.
Há anos que os defensores da privacidade e da segurança digitais alertam para a interligação de várias fontes privadas e públicas de dados. Mas a pandemia demonstrou pela primeira vez a rapidez com que esses fluxos de dados podem ser centralizados e associados a pedido – não apenas na Coreia do Sul, mas em todo o mundo.
A verdade inconveniente é que temos estado a construir a infra-estrutura para recolher dados comportamentais profundamente pessoais à escala global já há algum tempo. A autora Shoshana Zuboff relaciona o nascimento deste “capitalismo de vigilância” com a expansão dos poderes securitários estatais verificada no rescaldo dos ataques terroristas de 11 de Setembro de 2001 nos Estados Unidos.
BLACK FRIDAY SALE: Subscribe for as little as $34.99
Subscribe now to gain access to insights and analyses from the world’s leading thinkers – starting at just $34.99 for your first year.
Subscribe Now
Os modelos de negócio assentes em dados impulsionaram os elementos principais desta infra-estrutura: smartphones, sensores, câmaras, dinheiro digital, biometria e aprendizagem automática. As suas vantagens e a sua eficiência – ao prometerem fazer mais com menos – convenceram tanto os utilizadores individuais como as empresas. Mas a nossa adopção rápida e entusiasta das tecnologias digitais deixou-nos com pouco tempo e escassos motivos para pensarmos sobre as consequências associadas à articulação de todas estas realidades.
Embora os meios de comunicação se refiram frequentemente às iniciativas tecnológicas relacionadas com a pandemia como “inovadoras”, existe pouco de novo nelas – excepto, talvez, a sua visibilidade acrescida. A monitorização dos movimentos tanto a nível individual como a nível global está no centro de muitos negócios. Os relatórios de mobilidade da COVID-19 da Google, por exemplo, apresentam um conjunto estonteante de dados a nível dos utilizadores, das cidades e dos países – mostrando quem fica em casa, quem vai trabalhar, e o modo como estes padrões foram alterados pelo confinamento.
O mesmo acontece com os dados sobre o que compramos e o modo como agimos enquanto indivíduos e grupos. A monitorização em larga escala dos padrões comportamentais individuais é tão central para a automatização que os confinamentos relacionados com a pandemia e que envolveram mais de quatro mil milhões de pessoas confundiram modelos de IA e de aprendizagem automática, perturbando deste modo os algoritmos para detecção de fraudes e induzindo em erro os sistemas de gestão de cadeias de abastecimento.
Esta súbita visibilidade pública dos dados comportamentais desencadeou uma consciencialização pública. Afinal, as revelações de Edward Snowden tornaram as pessoas cientes de que as suas chamadas por Skype e os seus e-mails eram monitorizados em nome do combate ao terrorismo, e o escândalo Cambridge Analytica no Reino Unido evidenciou a venda e utilização de dados pessoais para o micro-direccionamento político.
Em particular, a crise da COVID-19 poderia ter demonstrado o modo como os dados comportamentais contam histórias sobre o que fazemos durante todos os minutos do dia, e porque é que isso é importante. Em vez disso, aceitámos estas tecnologias porque as percepcionamos – pelo menos, durante a crise actual – como sendo em grande medida destinadas ao bem maior (mesmo que ignoremos a questão da sua eficácia).
Mas à medida que os limites entre a saúde privada e a saúde pública se tornam mais permanentemente difusos, podemos pensar de forma diferente sobre as concessões que nos pedem que façamos. Podemos tornar-nos menos tolerantes à monitorização comportamental se os hábitos de vida individuais forem constantemente monitorizados em nome do bem colectivo. As potenciais tecnologias que nos ajudarão a gerir um futuro pós-pandemia, das ferramentas de vigilância no local de trabalho aos passaportes sanitários digitais permanentes, podem desafiar seriamente os nossos sistemas de valores. Isto poderá originar uma profunda discordância entre diferentes orientações culturais e políticas sobre quais as tecnologias que devem ou não devem ser aproveitadas.
Seria simples enquadrar todo este debate em termos de vigilância e de privacidade. Mas essa não é a única questão importante em jogo. A recolha em grande escala de dados comportamentais íntimos não só alimenta grandes empresas mas também permite a elaboração de modelos previsionais, sistemas de alerta precoce e sistemas nacionais e globais para execução e controlo. Além disso, o futuro será provavelmente marcado por crises, de catástrofes naturais a fomes e pandemias. E as tecnologias digitais, os dados comportamentais humanos e a tomada de decisões através de algoritmos desempenharão um papel cada vez mais crucial na sua previsão, atenuação e gestão.
Por conseguinte, as sociedades terão de enfrentar questões difíceis sobre o modo como lidam com desafios para além das liberdades cívicas e dos enviesamentos nocivos, da discriminação e das desigualdades reveladas pelas tecnologias de recolha de dados. Teremos de decidir quem será responsável pelas percepções comportamentais e como estas devem ser usadas no interesse público. E teremos de reconhecer que as pessoas que tomem decisões baseadas nesses dados, e as ideias políticas que as motivam, criarão novas formas de poder com efeitos profundos sobre as nossas vidas.
À medida que confiamos cada vez mais nos grandes volumes de dados para a resolução de problemas importantes, a principal questão que enfrentamos não é o que podemos fazer com eles, mas antes o que estamos dispostos a fazer. Se não colocarmos essa questão, não participaremos na sua resposta.