Quem acompanha a série Black Mirror na Netflix com certeza se pega pensando por diversas vezes como seria a vida se alguma das tecnologias do seriado existissem de verdade no nosso dia a dia. Numa dessas pensamos como seria se nosso olho pudesse gravar tudo que enxergamos ou então se os jogos pudessem ser tão reais quanto a própria realidade, entre outras, mas só para ficar nas realidades alternativas "mais legais".
Em um dos meus episódios preferidos, o 1º episódio da 3ª temporada - o mais cômico de toda a série, inclusive, a sociedade é organizada e classificada através de uma pontuação. Cada coisa que você faz pode ser avaliada: Se você postou uma foto legal ou levou lanche para os colegas no trabalho as pessoas lhe darão pontos positivos; se você foi rude com alguém ou não deu bom-dia no elevador, pontos negativos. No final as pessoas são colocadas em um ranking onde sua posição determina o que você pode ou não pode fazer. Alugar um carro, por exemplo, caso sua nota seja baixa dará direito somente a um carrinho velho e sem luxo, e por aí vai.
Parece louco e impensável, certo? Porém, esse roteiro de um ranking de pessoas, e coisas que você pode fazer ou não de acordo com a nota, já tem data marcada para ser a realidade de mais de 1.3 bilhão de chineses: Tudo isso a partir de 2020, segundo o governo do país.
Mas como isso irá funcionar? De onde veio tudo isso? Tem algum motivo? O que essa lista vai permitir ou negar às pessoas? Onde isso vai parar? São muitas questões, mas tentarei responder o máximo delas, então, siga a leitura.
Spoiler: Chineses com score baixo serão impedidas de andar de trem ou avião a partir de 1º de maio de 2018.
O plano de monitoramento do governo chinês
A história bizarra veio a público no final do ano passado, quando publicações como a Wired popularizaram o tema, restrito até então a pequenos nichos, porém, o escrito que previra esse cenário Black Mirror é bem mais anterior. O documento assustador intitulado "Esquema de Planejamento para a Construção de um Sistema de Crédito Social" foi publicado pelo Conselho de Estado da China em 14 de junho de 2014, momento oportuno quando todos estavam com a cabeça do outro lado do mundo, especificamente no Brasil, já que a nossa copa do Mundo já ia de vento em popa.
Assim como boa parte dos documentos oficiais de um país, este era mais um maçante e sonolento papel da política chinesa, mas com um ponto bastante controverso escondido lá no meio: E se houvesse uma pontuação de confiança nacional que avaliasse os cidadãos da China?
Ao adentrar nos detalhes desse plano a coisa começa a ficar cada vez mais sinistra e as coincidências com o episódio do seriado britânico cada vez mais escancaradas. Se você nunca assistiu o episódio, aqui vai um spoiler de Black Mirror - e da própria China nos anos seguintes: Imagine um mundo em que muitas de suas atividades diárias fossem constantemente monitoradas e avaliadas. Coisas simples como o que você compra nas lojas físicas e on-line, onde você está em um determinado momento, quem são seus amigos e como você interage com eles nas redes sociais, quantas horas você gasta assistindo conteúdo na internet ou jogando videogames, quais contas e impostos você paga (ou não), entre outras.
Ok, em um primeiro momento pode até não parecer tão assustador assim já que a maior parte destes dados a gente já distribui por aí graças à nossa ânsia em despejar informações publicamente através de buscas no Google, posts no Facebook, check-ins no Instagram, trajetos no Waze, compras na Amazon, etc. etc. Mas e se essas informações servissem para alimentar um sistema onde todos esses comportamentos fossem classificados como positivos ou negativos e depois transformados em um número; uma pontuação de acordo com os critérios e regras estabelecidas pelo governo.
Esse número será sua pontuação do cidadão e vai servir para informar a quem quiser saber se você é confiável ou não. Quem quiser saber mesmo. Seu score social será público em relação a de toda a população do país e usado para determinar, por exemplo, se você está apto a assumir uma hipoteca, se é indicado para um determinado emprego, quais escolas seus filhos podem frequentar ou até mesmo as suas chances de conseguir um encontro.
É esse misto de Black Mirror com Big Brother (do livro 1984, de George Orwell, não o reality) que está sendo preparado na China, onde o governo está desenvolvendo o Sistema de Crédito Social (SCS) que irá avaliar a confiabilidade de seus 1.3 bilhão de cidadãos. Segundo as informações oficiais a medida tem um objetivo bastante nobre: medir e aprimorar a "confiança" em todo o país e construir uma cultura de "sinceridade" por lá. Eles continuam: de acordo com o governo o novo sistema "criará um ambiente de opinião pública onde manter a confiança é glorioso. Fortalecerá a sinceridade nos assuntos governamentais, a sinceridade comercial, a sinceridade social e a construção da credibilidade judicial".
Mas nem todos veem com bons olhos uma prática destas quando anunciada por um governo conhecido por seu autoritarismo e censura: "É muito ambicioso tanto em profundidade como alcance, pois inclui o controle do comportamento de uma pessoa e até quais livros que ela está lendo. É o rastreamento do consumidor da Amazon com um toque político orwelliano", diz Johan Lagerkvist, especialista em internet da China no Instituto Sueco de Assuntos Internacionais.
O plano foi lançado em 2014 e abrange até o ano de 2020, quando ele estará operando em seu potencial máximo. Até lá, tecnicamente, participar da avaliação de crédito é algo voluntário, passando depois a ser compulsório, quer o cidadão ou pessoa jurídica gostem ou não.
Os motivos de um plano deste tamanho
Para entender os motivos de uma empreitada deste tamanho que mexerá com a vida de quase 1.5 bilhão de seres humanos, primeiro lá vai 2 parágrafos de história e contextualização com nossa realidade:
Há mais de 70 anos, dois homens chamados Bill Fair e Earl Isaac inventaram pontuações de crédito para medir a confiabilidade das pessoas e ajudar as instituições financeiras a evitarem possíveis calotes. A coisa deu tão certo que se espalhou por diversos países, inclusive no Brasil, onde as avalições de crédito fazem parte da sua vida e você talvez nem desconfie.
Acho que deu para pegar a ideia dos benefícios de uma averiguação do crédito, certo? Pois bem, a justificativa do governo é justamente essa: No país não existe uma Serasa ou um FICO e, por conta disso, pouca gente possui crédito para comprar algo mais pesado por lá, o que acaba virando uma bola de neve no momento em que as pessoas não podem ser analisadas para terem seu crédito medido e assim ser dado um limite para elas, e assim sucessivamente.
"Muitas pessoas não possuem casas, carros ou cartões de crédito na China, de modo que esse tipo de informação não está disponível para medição", explica Wen Quan, um blogueiro influente que escreve sobre tecnologia e finanças, quando fala sobre a avaliação do crédito chinês. "O banco central tem os dados financeiros de 800 milhões de pessoas, mas apenas 320 milhões têm um histórico de crédito tradicional" (sim, esse "apenas" é uma população 50% maior do que o nosso Brasil todinho, mas na China significa algo com 20% do país. Escala chinesa é outro nível).
E a falta de um sistema de crédito nacional na China é o porquê do governo ser tão radical em corrigir essa brecha deixada no sistema. Segundo o Ministério do Comércio chinês, a perda econômica anual causada pela falta de informações de crédito e pela falta do que eles chamam de "déficit de confiança" é de mais de 600 bilhões de yuans (mais de 310 bilhões de reais).
Num mercado mal regulamentado onde impera a venda de produtos falsificados e de péssima qualidade a falta de confiança nas relações é, realmente, um enorme problema. De acordo com a Organização de Cooperação e Desenvolvimento Econômico (OCDE), 63% de todos os produtos falsificados no mundo, de relógios a alimentos para bebês, vêm da China. "O nível de micro corrupção é enorme", diz Creemers. um pós-doutor, especialista em direito chinês e governança, do Instituto Van Vollenhoven da Universidade de Leiden. "Então, se este regime específico resultar em supervisão e responsabilidade mais efetiva, provavelmente será bem-vindo".
Nesse sentido a professora Wang Shuqin, do departamento de Filosofia e Ciências Sociais da Capital Normal University, na China, que ganhou uma competição e foi contratada para ajudar o governo a desenvolver o sistema que ela se refere como "Sistema Social de Confiança da China", sem esse mecanismo, fazer negócios por lá é arriscado, já que cerca de metade dos contratos assinados no país não são mantidos. "Dada a velocidade da economia digital, é crucial que as pessoas possam verificar rapidamente a confiança de cada um", diz ela.
No entanto, o que de maneira geral pode ser atestado como uma falta de confiança na população chinesa parece valer mais para quem olha de fora do que quem olha de dentro. Ao menos é o que mostra o gráfico abaixo onde estão compilados os resultados de diversas pesquisas que medem o grau de confiança das pessoas nos seus conterrâneos. Por exemplo, os pesquisadores perguntam a um alemão se ele confia em um outro alemão escolhido na sorte; a um palestino se ele confia em outro palestino na sorte, etc. Aliás, você confia em um outro brasileiro escolhido aleatoriamente?
Os dados da China foram bastante sólidos e parecem desbancar qualquer argumento do governo que trata de uma crise interna de confiança: O país só perde para Noruega, Holanda e Suécia em os países que possuem os residentes que mais acreditam uns nos outros. Mas se refutada essa razão, o governo chinês tem uma outra carta na manga para defender o seu Sistema de Crédito Social: segundo eles o SCS servirá como uma maneira de trazer as pessoas deixadas de fora dos sistemas tradicionais de crédito, como estudantes e famílias de baixa renda. Será? Bom, temos um tópico onde desenvolveremos apenas essa questão mais à frente, mas enquanto isso precisamos descobrir primeiro quem está por trás das operações do SCS. Antes de sua implantação em escala nacional no início da década seguinte, o governo chinês está promovendo um período de observação e aprendizado. Neste casamento entre a supervisão comunista e o poder capitalista o governo concedeu, inicialmente, uma licença a oito empresas privadas para criarem sistemas e algoritmos a serem implementados nas medições dos scores de crédito social. Obviamente, os nomes que se sobressaem neste cenrário como os mais conhecidos e promissores são as gigantes de manipulação de dados chinesas. O primeiro é o projeto da China Rapid Finance, um parceiro do Tencent (uma rede social chinesa gigante que equivale ao Facebook no país) e desenvolvedor do mensageiro WeChat (versão do WhatsApp) que conta com mais de 850 milhões de usuários ativos. O outro nome é o Sesame Credit, administrado pelo Ant Financial Services Group (AFSG), uma empresa afiliada do poderoso grupo Alibaba. A Ant Financial vende produtos de seguros e fornece empréstimos a pequenas e médias empresas e, embora possua um catálogo diversificado de serviços e produtos, tem como carro-chefe o AliPay, seu braço dedicado a processar pequenos pagamentos diários que as pessoas usam não só para compras on-line, mas também para pagamentos em restaurantes, táxis, mensalidades escolares, comprinhas na fruteira, bilhetes de cinema e até mesmo fazer transferências de dinheiro entre si. Praticamente um verdadeiro banco em um aplicativo. Além de criarem o algoritmo as empresas também estão se aliando a outros nomes que possuem uma vasta base de clientes para assim aglutinarem mais dados e refinarem suas pontuações. A Sesame Credit, por exemplo, tem contato com a Baihe, a maior plataforma de encontros online do país, e a Didi Chuxing, que talvez você conheça por ter sido a companhia que adquiriu a startup brasileira 99Taxis, no início deste ano por mais de 1 bilhão de dólares, além de já ter adquirido também as operações do Uber em território Chinês, em 2016. Material para gerar pontuação não vai faltar, mas como é que eles irão avaliar as pessoas até chegar a um número final? Pergunta interessante: Como as pessoas serão classificadas, afinal? No caso do Sesame Credit os indivíduos são medidos por uma pontuação que varia entre 350 e 950 pontos. Eles não divulgam o algoritmo que usa para calcular o número exato, mas revelam os cinco fatores considerados. O primeiro é o histórico de crédito. Por exemplo, o cidadão paga sua conta de energia ou telefone antes do vencimento? A seguir, a capacidade de realização, que define nas suas diretrizes como "a capacidade do usuário em cumprir suas obrigações contratuais". O terceiro fator é a característica de identificação pessoal, onde o fulano irá confirmar informações como o número de telefone celular e o seu endereço. Essas foram simples e podem ser avaliadas em números ou datas, mas é com a quarta e quinta categorias que a coisa começa a ficar nebulosa: comportamento e preferência; e relacionamento interpessoal, respectivamente. Sob este sistema, algo tão inofensivo quanto os hábitos de compra de uma pessoa se tornam uma medida de caráter. A Alibaba admite que julga as pessoas pelos tipos de produtos que compram. "Alguém que joga videogames durante dez horas por dia, por exemplo, seria considerado um ocioso", diz Li Yingyun, Diretor de Tecnologia do Sesame. "Alguém que compra frequentemente fraldas seria, provavelmente, considerado como um pai que, em geral, pode ser considerado como uma pessoa de maior responsabilidade". Portanto, o sistema não apenas investiga o comportamento - ele o molda ao "alfinetar" indiretamente os cidadãos com hábitos de compra e comportamentos que o governo não gosta. Quem um chinês escolhe e aceita como amigo online e como interage com ele pode dizer algo sobre confiabilidade e crédito público? De acordo com os avaliadores, sim. Os amigos serão importantíssimos para a sua nota de acordo com o 5º item a ser observado. Se este chinês compartilhar o que o Sesame Credit se refere como "energia positiva" (boas mensagens sobre o governo ou o quão bem a economia do país está indo) ele aumentará sua pontuação. Quanto a publicar posições contrárias e isso derrubar a sua nota, a Alibaba é taxativa em dizer que não ocorrerá. Se é verdade a gente não sabe, já que o algoritmo é secreto, porém, publicar opiniões políticas contrárias nunca foi algo muito inteligente de se fazer na China, mas mesmo assim, ano após ano, o governo vem perdendo o controle da situação. Atualmente parece não haver mais o medo de ser fuzilado por uma frase como antigamente, mas que eles poderão fazer ressurgir com esse score. Agora, com o perigo de prejudicar diretamente a classificação de um cidadão e todas as consequências que isso envolver, esse cenário de censura voluntário sobre a opinião que a pessoa está disposta a tornar pública pode se inverter, mas não é só isso. A pontuação de uma pessoa também será afetada pelo que seus amigos online dizem e fazem, além de seu próprio contato com eles. E aqui está o verdadeiro pulo do gato: Se alguém que fulano estiver conectado postar um comentário negativo, sua própria pontuação também será puxada para baixo. Assim, além de se autopoliciar, os chineses estarão policiando o que os seus amigos postam. A ideia do governo é que ao invés de somente o próprio governo monitore o que eles pensam e falam, cada chinês estará reparando o que os seus amigos estão fazendo. A partir de 2020 a China terá 1.4 bilhão de potenciais censores!! Isso é muito Black Mirror. Além das postagens nas redes, algumas cidades já divulgaram o que fará com que as pessoas percam pontos no seu território ou região. Por exemplo: E assim por diante. Mas o mais complicado desses algoritmos que vão medir a confiança é que eles são injustificadamente generalistas e redutores. Eles não levam em consideração o contexto do tal deslize social. Por exemplo, uma pessoa que perca a data de um pagamento de conta pois foi parar no hospital após se dirigir a um banco onde iria, justamente, pagar a tal conta irá tomar a mesma punição de quem é um caloteiro e não pagou porque não quis. Mas se a coisa é tão Black Mirror assim, por que milhões de pessoas já se inscreveram para o que equivale a uma corrida de julgamento moral feita por um sistema de vigilância governamental endossado publicamente? Não sou chinês e não sei como as coisas funcionam por lá, principalmente as coisas que ocorrem por baixo dos panos, mas não seria de se estranhar se os chineses estivessem se submetendo a isso por razões não declaradas, como uma possível represália do governo a quem não aderisse ao sistema por "vontade própria". No entanto há também uma outra questão a quem participar da brincadeira: Recompensas e privilégios especiais para os cidadãos que se provarem confiáveis através das avaliações de crédito. Se você for avaliado pelo Sesame Credit poderá ter os seguintes benefícios: Entre outras coisas menores e facilidades do dia a dia há empréstimos de guarda-chuva ou power banks de acordo com sua nota obtida. Claro que também tem a competição social e símbolo de status. Dê uma passada no Weibo (o Twitter deles) e você verá quase 100.000 pessoas se gabando de suas pontuações poucos meses após o lançamento da versão de testes. Nada mais compreensível em se gabar de uma nota alta quando uma nota baixa pode afetar até mesmo suas chances de obter um encontro e um futuro noivo(a) já que, quanto maior a classificação no Sesame, mais interessante será o seu perfil no site de namoro Baihe (a nota será um dos critérios mostrados do pretendente). O Sesame Credit já oferece dicas para ajudar os indivíduos a melhorar sua classificação, incluindo alertas sobre as desvantagens de amizade com alguém que tenha uma baixa pontuação. Novos tempos, novas oportunidades. Não se espante se, em breve, surgirem os conselheiros de pontuação, que compartilharão dicas sobre como ganhar pontos ou consultores de reputação dispostos a oferecer conselhos especializados sobre como melhorar estrategicamente uma classificação ou sair da lista negra de confiança. Isso é muito Black Mirror. Mas claro que se há vantagens, também devem haver as desvantagens, certo? Por enquanto o governo não especificou muito quais serão as punições para quem tiver notas baixas além de ficar de fora das regalias para os melhores cidadãos. Somente o que se sabe é que a partir de maio deste ano, logo em seguida, portanto, as pessoas com scores baixos (não foi informado o número exato) serão impedidas de comprar passagens de avião ou de trem. Tal medida não é inédita no país, já que no ano passado o governo havia retirado o direito de viajar por estes meios daqueles que tivessem uma dívida pesada com o país. O caso ficou famoso já que entre estes grandes devedores estavam personalidades conhecidas do mundo da tecnologia, como Jin Yueting, fundador da LeEco e Faraday Future. Além de dever à nação, outros casos que poderiam levar a este banimento, segundo a Reuters, incluem causar problemas durante um voo, fumar em trens, usar passagens vencidas, espalhar falsas informações sobre atos terroristas, entre outras coisas, no mínimo, possíveis de serem medidas. Porém, em outros casos os critérios usados para julgar assustam tamanha subjetividade. Um advogado, por exemplo, foi proibido de comprar uma passagem de avião quando uma desculpa oficial emitida por ele após o término de um caso ter sido entendida pelo governo como "não sincera". O motivo alegado pela corte que o impediu de comprar a passagem e o colocou na lista negra foi, em partes, porque datou a carta como 1º de abril. Bizarro? Muito, porém nenhuma novidade. Segundo a Suprema Corte das Pessoas (tipo o nosso STJ) disse no início de 2017, mais de 6 milhões de chineses foram banidos de pegar um voo no país por conta de deslizes na conduta. A proibição desses chineses em voar está sendo apontada como um passo em direção à lista negra no SCS. "Assinamos um memorando com mais de 44 departamentos governamentais para limitar pessoas desacreditadas em vários níveis", diz Meng Xiang, chefe do departamento executivo da Suprema Corte. Enquanto isso, outros 1.65 milhões de pessoas na lista negra já não podem andar de trem. Ok, quer dizer que você até achou pouco o fato de não poder pegar um trem ou avião? Estava esperando mais medidas de repreensão do governo e tal? Então siga lendo: É bem verdade que, atualmente, o Sesame Credit não penaliza diretamente as pessoas por serem "não confiáveis", já que é mais eficaz - e fácil - fazer as pessoas se esforçarem para ter um bom comportamento através das recompensas, mas Hu Tao, gerente-chefe do Sesame Credit, adverte que o sistema foi projetado para que "as pessoas não confiáveis não possam alugar um carro, não possam pedir dinheiro emprestado, nem mesmo encontrar um emprego". A gerente divulgou também que já houve, inclusive, uma aproximação com o Ministério da Educação da China para que eles compartilhem a lista de alunos que colaram nos exames nacionais. A ideia é que essa desonestidade possa ficar registrada no seu perfil e venha a lhes punir no futuro, seja na hora de entrar em uma universidade ou conseguir um emprego. Mas as penas devem mudar drasticamente quando a adesão ao sistema se tornar obrigatório em 2020. É o que se presume com uma atualização do Escritório Geral do Conselho de Estado, publicada em 25 de setembro de 2016, que atualizou sua política com o título "Mecanismos de Aviso e Punição para Pessoas Sujeitas à Execução de Confiança". O princípio primordial é simples: "Se a confiança é quebrada em um só lugar, as restrições são impostas em todos os lugares", afirma o documento oficial. Por exemplo, pessoas com baixas classificações terão velocidades mais lentas na internet; acesso restrito a restaurantes, casas noturnas, campos de golfe, etc. além da pior de todas: remoção do direito de viajar livremente para o exterior, citando, "controle restritivo sobre o consumo dentro das áreas de férias ou negócios de viagem". E isso é só o começo: as pontuações também influenciarão seu poder dentro dos apps de aluguel (Airbnb, por exemplo), sua capacidade de obter seguro ou um empréstimo e até mesmo benefícios de previdência social. Cidadãos com scores baixos serão preteridos na hora de uma contratação por empregadores mais rigorosos, além de serem terminantemente proibidos de obter empregos específicos, como no serviço público, jornalismo e nos campos legais, onde, é claro, a confiança deve estar intrínseca ao funcionário. Os cidadãos de baixa avaliação também terão sua opções restritas quando se tratar de uma matrícula na universidade ou escola (até mesmo as particulares que ele possa pagar). Já parou para pensar no que isso pode causar? Um sistema de castas institucionalizado. Se fulano colou na escola quando estava na 3ª série perdeu totalmente as chances de entrar para uma universidade, conseguir um emprego e ter uma vida legal. Depois disso seus descendentes já sairão no prejuízo, com uma vida mais difícil e menores chances de ir bem na escola (mesmo que a nota de seus pais não a impeça de cair numa escola ruim), entrar na universidade, mudar de vida, etc. E eu não estou inventando essa lista de punições, não. Essa é a realidade que os cidadãos chineses enfrentarão de acordo com o documento que explica o sistema de crédito social e poeticamente profetiza: "permitirá que os níveis de confiança se espalhem por todos os cantos abaixo dos céus enquanto faz com que os desprovidos de crédito tenham dificuldade em dar um único passo". Acha que agora a coisa está justa? Pois é. Lembra até um certo período da história chinesa, não? Se você for um imigrante chinês ou um profundo conhecedor da história recente do local, vai fazer, automaticamente, uma ligação entre o novíssimo Sistema de Crédito Social com o batido dang'an, o sistema oficial de observação do Partido Comunista. Para quem desconhece o termo, ele era um dossiê mantido pelo Partido onde eram guardadas todas as transgressões políticas e pessoais de um indivíduo, começando por aquelas dos tempos de escola até chegar na fase adulta e sua conduta nos empregos. Na verdade, o registro lhe acompanhava por toda a vida. Em outras palavras, o que se tenciona criar agora é uma versão big data do dang'an. Aliás, foi indiretamente por causa do dang'an que surgiu a necessidade de um SCS no país, segundo os motivos governistas. De acordo com a teoria oficial, há algumas décadas, as pessoas denunciavam conhecidos, amigos e até membros da família ao dang'an, o que acabou levando a uma onda de suspeita generalizada nas relações pessoais e, consequentemente, a uma redução na confiança social entre os chineses. Problema embaraçoso que um sistema de confiabilidade tenta agora resolver. Mas não podemos esperar que o SCS não seja apenas uma versão digital do dang'an onde as pessoas, por medo de terem sua pontuação rebaixada por tabela, irão dizer aos seus amigos e familiares o que eles devem ou não publicar. Assim, o novo sistema reflete uma mudança inteligente no paradigma de como se controlam as coisas por lá. Se antes as transgressões eram levadas à ponta de faca e causavam revoltas populares vez ou outra, agora, ao invés de tentar impor estabilidade de cima para baixo com uma boa dose de medo, o governo está tentando impor o hábito da obediência travestida de uma pontuação bacana, onde a ideia é parecer tão legal como um joguinho e seu sistema de pontos e recompensas. É a obediência sendo gamificada. E isso é muito Black Mirror. Certo, mas de acordo com a trama oficial o objetivo do Conselho de Estado é elevar a cultura da honestidade e os níveis de crédito de toda a sociedade a fim de melhorar a competitividade geral do país. Mas é possível que o SCS seja de fato uma abordagem inofensiva e transparente em um país que tem uma longa história de vigiar seus cidadãos? "Como pessoa chinesa, sabendo que tudo o que faço digitalmente está sendo rastreado, será que eu prefiro estar ciente dos detalhes do que está sendo monitorado e usar essa informação para me ensinar a cumprir as regras ou prefiro viver na ignorância e espero / desejo / sonho que a privacidade pessoal ainda existe e que nossos órgãos responsáveis nos respeitem o suficiente para não se aproveitar dos meus dados?" questiona Rasul Majid, um blogueiro chinês residente em Xangai, que escreve sobre design comportamental e a psicologia nos jogos. Simplificando, Majid acha que, ao fazer com que ele repense várias vezes antes de efetuar qualquer coisa online, o monitoramento acaba lhe dando um pouco mais de controle sobre seus dados. Além disso outros cenários irão se criar com o SCS, afinal, a China é o país da pirataria, certo? Assim, tão logo for lançada a versão oficial da classificação, rapidinho surgirá o mercado negro de venda de reputação onde alguém poderá aumentar a sua nota do mesmo jeito que hoje um usuário de Twitter ou Instagram compra seguidores. Sem contar que agora facilitou para os hackers, né? Se quiserem os dados de 1 bilhão de pessoas, tudo organizado e bonitinho, já sabem onde ir. E uma ressalva quanto ao sistema de testes e avaliações iniciais: Ainda não há nada que assegure que qualquer uma das oito empresas privadas envolvidas no projeto piloto em curso será a grande responsável por administrar o sistema de classificação a ser implementado. Na verdade não se pode nem garantir que esse plano piloto não seja uma jogada do governo para reunir uma quantidade máxima de dados para dar o pontapé inicial em um SCS gerenciado por ele mesmo. Imagine só: O governo abre a concorrência para quem desejar participar. Cada um dos participantes faz suas coletas de dados e entrega a eles uma montanha de informações pessoais para avaliação da eficácia dos seus métodos. Com essas toneladas de dados em mãos o governo descarta uma por uma as empresas que se inscreveram para participar e fica com as infos para si. Se isso acontecer e continuar como uma nova roupagem do habitual monitoramento do governo chinês, esses algoritmos de terceiros poderão resultar em plataformas privadas que atuem essencialmente como agências de espionagem para o governo. E elas podem não ter escolha se aceitam ou não. Aliás, "contratos" onde de um lado as empresas entregam os dados e do outro o governo dá um dinheirinho e não fecha seu negócio já estão acontecendo. Em 2017 já eram mais de 140 empresas parceiras para a troca de dados. A ideia é criar SCS's de âmbito regional nas províncias. Em um bairro moderno no centro de Pequim, uma equipe da BBC foi às ruas em outubro de 2015 para perguntar às pessoas sobre suas classificações no Sesame Credit. A maioria falou "espontaneamente" sobre os benefícios do sistema para a China. Mas claro, quem ousaria criticar publicamente o SCS e ver sua pontuação diminuir com esse comentário "não de acordo com o que o governo deseja"? Mas o que preocupou os jornalistas foi como poucas pessoas realmente entenderam que uma nota ruim hoje poderia prejudicá-los no futuro. Ainda mais preocupante foi quantas pessoas não tinham ideia de que estavam sendo ou seriam avaliadas. De acordo com Luciano Floridi, professor de filosofia e ética da informação na Universidade de Oxford e diretor de pesquisa do Oxford Internet Institute, houve três eventos que alteraram o modo como compreendemos as coisas, o mundo e a nós mesmos: O revolucionário modelo de Copérnico de que a Terra estava orbitando o Sol - e não o contrário; a Teoria de Darwin da seleção natural; e a afirmação de Freud de que nossas ações diárias são controladas pelo subconsciente. Agora o filósofo do Google, como é conhecido, acredita que estamos prestes a presenciar uma quarta mudança de paradigma: o que fazemos online e offline convergem para influenciar a vida de uma pessoa sem distinção entre o que é real e o que é virtual. O professor afirma que, à medida em que nossa sociedade se torna cada vez mais uma infosfera (uma mistura de experiências físicas e virtuais) as pessoas passam a adquirir uma personalidade "onlife" - onde as ações online influenciam a personalidade no "mundo real" e vice-versa. Segundo ele é só olhar para o Facebook onde as pessoas não mostram suas vidas em si, mas apenas uma representação editada ou idealizada das mesmas. Outro exemplo é o Uber: Será que as pessoas realmente gostam de dar bom-dia quando entram no carro e são educadas ao natural, ou estão fazendo aquilo porque sabem que todo o seu comportamento e interação irá influenciar na nota que o motorista irá lhe dar? Ainda assim esse olhar sobre as avaliações da Uber não são tão Black Mirror quanto aquelas do Peeple, um aplicativo lançado em março de 2016, que é como um Yelp para humanos (Yelp é o aplicativo mais famoso do mundo para classificação de restaurantes por usuários). Oww, tá grande esse post né? Mas calma que ele já tá se encaminhando para o final. Se você leu até aqui deixe um "beterraba" lá nos comentários pra eu saber que a galera também curte uma leitura mais longa. Agora continuando. Voltando ao Peeple ele permite que você atribua classificações e avaliações a todos que conhece, desde o seu cônjuge e vizinho até o seu chefe e ex de relacionamentos passados. Tais notas e avaliações irão gerar um "número Peeple", uma pontuação baseada em todos os comentários e recomendações que você recebe onde as pessoas poderão lhe julgar como bem entenderem de acordo com aquele valor. E se você até pensou em baixar e instalar o app mesmo que por 5 minutinhos, só para testar, uma informação a considerar: uma vez que seu nome é cadastrado no sistema Peeple, ele irá ficar lá para sempre. Você não pode mais sair. Isso sim é muito Black Mirror. Quando nós ocidentais pensamos sobre o Sistema de Crédito Social na China, ficamos apavorados sobre o que está acontecendo por lá. No entanto avaliamos restaurantes, filmes, livros, festas e até consultórios médicos diariamente e, enquanto ficamos com medo da China versão Black Mirror, o Facebook já é capaz de identificá-lo em imagens em que seu rosto não aparece com uma taxa de 83% de acertos; Ele só precisa de sua roupa, cabelo e tipo de corpo para te encontrar. Em 2015, a OCDE publicou um estudo revelando que, nos EUA, existem pelo menos 24,9 dispositivos conectados a cada 100 habitantes. Todos os tipos de empresas fazem questão de analisar com carinho a big data emitida por esses dispositivos para entenderem nossas vidas e desejos, e para prever nossas ações (leia-se padrões de consumo) de forma que nem mesmo nós poderíamos prever. E olha que nós somos nós!!
Responsáveis pelo desenvolvimento
Como ocorrerá a classificação
Vantagens e desvantagens do score
Achou pouco?
Mais do mesmo?
Resto do mundo e o futuro da vigilância de dados
No Brasil não há nada explícito no nosso dia a dia, exceto pelo monitoramento preventivo nas Olimpíadas e pela ABIN - Agência Nacional de Inteligência - que, inclusive, realizou concurso recentemente para a contratação de mais 300 funcionários. Se eles vão integrar o quadro da Agência para nos monitorar eu não sei, mas o que é certo é que já vivemos em um mundo de algoritmos preditivos por todos os lados que determinam se somos uma ameaça, um risco, um bom cidadão e mesmo se somos confiáveis. Talvez estejamos nos aproximando do sistema chinês - onde a pontuação de crédito interfere diretamente na vida - sem perceber.
Então, estamos indo para um futuro em que todos nós seremos marcados on-line e viraremos dados? De acordo com Rachel Botsman, salvo algum tipo de revolta popular em massa para recuperarmos a privacidade, estamos entrando em uma época em que as ações de um indivíduo serão julgadas por padrões que não se pode controlar e, o pior de tudo, uma época onde esses julgamentos não poderão mais ser apagados. As consequências não são apenas perturbadoras, eles são permanentes. Esqueça o direito de excluir algo das redes que você fez questão em publicar quando tinha tomado umas cervejas a mais, o direito de ser esquecido ou até mesmo o direito primordial (que eu usei com louvor) em ser jovem e fazer besteiras.
Embora seja tarde demais para brecar essa nova era, nós temos escolhas e direitos que podemos exercer agora. Por um lado, precisamos avaliar os avaliadores. Em seu livro Inevitável, Kevin Kelly descreve um futuro onde os observadores e os observados se vigiariam de forma recíproca. "Nossa escolha central agora é se essa vigilância é um segredo e ocorre unidirecionalmente - ou um tipo de vigilância mútua que envolve assistir aos observadores", ele escreve.
A confiança deve começar com quem está dentro do governo (ou quem estiver controlando o sistema) através de mecanismos confiáveis para garantir que as classificações e os dados sejam utilizados de forma responsável e com a nossa permissão. Para confiar no sistema, precisamos reduzir as incógnitas, ou seja, tomar medidas para reduzir a névoa que paira sobre os algoritmos, como o caso do Alibaba que gera uma pontuação de confiança sem explicar como e porquê. Aqueles que defendem a não abertura dos códigos - como o próprio Alibaba - dizem que a partir do momento em que eles forem abertos será questão de horas para que os hackers descubram uma maneira de manipulá-los. Mas até onde isso é verdade? Até onde você aceita (ou até onde você vai sem ser coagido) ter sua vida analisada sem saber dos reais motivos e como tais avaliações estão sendo feitas, ainda mais quando tais análises podem definir seu futuro. Além disso, é bem provável que na China alguns cidadãos, como funcionários do governo, serão considerados acima do sistema. Qual será a reação do público quando suas ações desfavoráveis não afetarem sua pontuação? Políticos corruptos não tendo a nota alterada por "foro privilegiado"? Pessoas com dinheiro usando laranjas para comprar itens "suspeitos" para elas ou mais: elas dispensarão a necessidade de um score de confiança apenas por serem ricas? Ainda é muito cedo para saber como uma cultura de monitoramento constante aliada a um sistema classificatório vai acabar. Mas nunca é precipitado parar alguns momentos para refletir sobre o que acontecerá quando esses sistemas capazes de criar um registro histórico dos comportamentos social, moral e financeiro de toda uma população, entrarem em pleno vigor; ou quanto mais a privacidade e a liberdade de expressão poderão ser corrompidas; ou quem vai decidir para que lado o sistema vai se inclinar? Ou...Ou... Ou... As questões são inúmeras. Se você não se preocupa com estas questões, talvez esteja na hora de se preocupar, afinal, hoje é a China, amanhã os EUA e quando menos esperar pode estar acontecendo em algum lugar do seu lado. As verdadeiras questões sobre o futuro da confiança não são tecnológicas ou econômicas, mas sim, éticas. E se a gente depender de ética.....Não é a toa que somos um dos últimos países naquele ranking de confiança que vimos no início do texto. Segundo ele os brasileiros só têm mais confiança em seus conterrâneos do que os residentes de Gana, Filipinas e Colômbia. E aí, o que você acha de tudo isso? Acredita nos motivos do governo? Acha que a coisa está indo para um caminho sem volta? Como ficará a situação para o Brasil? Comente pra gente aí abaixo. Outras fontes além das citadas no texto: Angrymoo, Asaninst, China File, deVolkskrant, Digital Asian Hub, Economist, Financial Times, Foreign Policy, Futurism, Quartz, Research Gate, Sidney Morning Harald, Tech Node, Wired
😕 Poxa, o que podemos melhorar?
😃 Boa, seu feedback foi enviado!
✋ Você já nos enviou um feedback para este texto.
