Adelino Mont'Alverne

The Black Box Society

No livro “The Black Box Society”, Frank Pasquale retrata como algoritmos atualmente desempenham um papel fundamental na construção (ou destruição) de reputações, no surgimento de novas empresas e no destino da economia. O termo caixa-preta do título é usado em dois sentidos, tanto como um dispositivo que monitora sistemas e pessoas continuamente, como as caixas-pretas que monitoram aviões, quanto um dispositivo cujo funcionamento é desconhecido. Conhecemos os dados de entrada e saída, mas não o processo de transformação. Para as corporações que desenvolvem essas caixas-pretas um dos objetivos principais é a opacidade, termo que resume a idéia de incompreensibilidade que deve envolver sua operação.

Enquanto hábitos de consumo, histórico de navegação online e comportamento pessoal são monitorados, empresas estão conectando os pontos e produzindo sistemas de avaliação para mensurar credibilidade e reputação. O livro apresenta uma variedade de casos que mostram como a mineração de dados é aplicada no varejo, nos sistemas de crédito, seguros e planos de saúde. O ponto-chave desse relato de casos é chamar a atenção sobre os limites dos processos de Big Data e como eles podem afetar nossa vida cotidiana. Se empresas estão definindo a reputação de seus clientes – e principalmente de seus futuros clientes – através de algoritmos opacos e inacessíveis, como saber mais sobre as formas pelas quais estamos sendo diariamente avaliados?

Pasquale também discute como o comportamento das grandes empresas de busca, como Google e Apple, levanta questões de confiança. Nem sempre os critérios que definem os resultados das pesquisas são claros. Quando a Google é acusada de barrar da primeira página de resultados um site de comparação de preços (Foundem X Google), o que isso pode representar? Apenas um resultado algorítmico, fruto de índices e análises frias, ou uma ação corporativa sobre um possível concorrente? Através do PageRank, a Google afirma relacionar resultados por relevância e importância, produzindo a idéia de igualdade (todos podem estar lá) e elitismo (alguns resultados são mais importantes que outros). O argumento comum é o da neutralidade. Mas quando ela adquire uma empresa de determinado setor, há influência na forma como os resultados sobre ela são apresentados? Serão os concorrentes deslocados para as últimas páginas? Uma transparência mais qualificada poderia ser a resposta para questões desse tipo.

pasquale

Se controle sobre dinheiro e informação fazem parte do subtítulo do livro, se torna obrigatória uma discussão sobre os modelos de operação do mercado financeiro atual. Transações eletrônicas já correspondem a 70% dos negócios do mercado de ações. Essas operações são executadas por algoritmos que trabalham a velocidades incompreensíveis para nós – na ordem dos milionésimos de segundos – aumentando ainda mais a opacidade sobre o funcionamento desse mercado. A descrição do “algorithm trading” é útil para mostrar como esses sistemas financeiros tiveram influência sobre as crises econômicas recentes nos EUA.

Para Pasquale, o ponto de partida para aperfeiçoar empresas de reputação, busca e finanças é aprender mais sobre o que eles estão fazendo e definir padrões mais altos e melhores práticas de auditoria que permitam uma regulação mais substantiva do setor privado. Mesmo que o sigilo seja visto como uma estratégia de negócio, ele destrói nossa habilidade de entender o mundo que está sendo criado. E a idéia de opacidade cria oportunidades para esconder condutas anticompetitivas, discriminatórias ou descuidadas sob um manto de inescrutabilidade técnica.

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *