Por Rodrigo Sousa e Wickson Ribeiro*
O que é um algoritmo?
Ao fazermos uma simples busca no Google tal qual “é biscoito ou bolacha?” somos apresentados aproximadamente a 1.220.000 resultados em apenas 0,41 segundos. A velocidade de resposta e a organização dessas páginas são obtidas através do poderoso algoritmo PageRank. Os algoritmos estão cada vez mais presentes em nossa vida cotidiana, seja por meio da interação direta com os nossos computadores pessoais ou indiretamente, por exemplo, na recusa ou aprovação de um empréstimo no banco. Mas afinal o que é um algoritmo?
Algoritmo pode ser definido a grosso modo como uma sequência lógica finita de instruções para resolver algum problema (trata-se de uma receita de como fazer). Profissionais da computação ou indivíduos que programam, ao desenvolver um algoritmo, estão estabelecendo um padrão de comportamento que deverá ser seguido para alcançar o resultado de um problema.
Um algoritmo é formalmente uma sequência finita de passos que levam a execução de uma tarefa. Podemos pensar em algoritmo como uma receita, uma sequência de instruções que dão cabo de uma meta específica. Estas tarefas não podem ser redundantes nem subjetivas na sua definição, devem ser claras e precisas (Buffoni, 2003).
Nossos computadores e smartphones operam segundo seus algoritmos que nada mais são que equações programadas que transformam “input” em “output”. Contudo, nos últimos anos aumentaram as discussões e preocupações em torno dos algoritmos e das suas influências sobre as relações sociais.
Apesar de todo poder de armazenamento e processamento de dados, os algoritmos continuam realizando tarefas de otimização do tempo que oferecem respostas para perguntas e problemas cotidianos, como melhor a rota para chegar no trabalho, busca de links na internet, restaurante mais visitados nas redondezas etc. Os seres humanos continuam programando a partir de seus meios com fins objetivos. Por sua vez, essas máquinas e algoritmos continuam analisando dados, criando padrões e oferecendo respostas que melhor se adequam aos dados que lhe são fornecidos.
Erros de códigos ou humanos?
No exato momento em que você estiver lendo online esse ensaio, cookies estarão armazenando dados da sua navegação na internet, os comentários que você faz em suas redes sociais, os portais de notícias que você acessa, as músicas que escuta, a localização do seu acesso e seu deslocamento. No entanto, o indivíduo em si não é o foco, o mais importante é o padrão formado a partir do cruzamento de dados de milhões de indivíduos como você. Por meio desses padrões e da programação realizada por profissionais da computação, os algoritmos estão interpretando, reproduzindo e criando padrões de comportamento.
Em 2010, o sensor de movimento do console de videogame Kinect tinha problemas para identificar jogadores negros.¹ Em 2015, Jacky Alciné, engenheiro de softwares descobre que o algoritmo do Google fotos (aplicativo de organização de fotos) estava classificando seus amigos negros como “gorilas”.² Em 2017, usuários asiáticos da Apple reportam que o Face Id, função que desbloqueia o aparelho, não consegue diferenciar um rosto chinês de outro.³ Essas falhas apontam para além de erros técnicos, seja de hardware ou programação, e informam a respeito da realidade das relações sociais e os espaços de produção técnico-científica.
É fundamental superar a ideia de espaços separados entre real e virtual, pois só a partir da compreensão de que ambos os espaços são acessados, construídos e habitados por humanos, e que eles se constituem mutuamente, um em relação constante com o outro, de forma cada vez mais difícil de definir qual é qual, passa a ser possível apreender a relação direta entre indivíduos, companhias e governos que elaboram algoritmos e os efeitos obtidos por esses algoritmos.
A história única do algoritmo
Os resultados obtidos por algoritmos não podem ser dissociados daqueles que escreveram o código e das relações sociais e de poder nas quais estes estão inseridos. Por isso reconhecemos que, por trás dos resultados algorítmicos, existe um mundo de valores etnocêntricos, eurocêntricos e sexistas. A existência de algoritmos racistas nos revela muito além de erros de código ou programação. O “erro” dos algoritmos indica precisamente seu êxito técnico de coletar, analisar as interações humanas e produzir padrões de respostas conforme os dados que lhe foram fornecidos, que acabam seguindo e favorecendo a reprodução das práticas racistas que são operadas na vida cotidiana.
É fundamental compreender que os “erros” dos algoritmos expõem que, para além da constatação e reprodução de práticas racistas, empresas, programadores e algoritmos estão criando e recriando uma realidade racista, com novas ferramentas, dinâmicas e cenários. Os algoritmos fazem uso do caráter neutro que é imputado à ciência de maneira geral. Este processo nos impossibilita de captar o sistema de criação e manutenção de mecanismos, práticas e ambientes racistas operados através dos algoritmos.
Os algoritmos são produtos diretos dos contextos sociais nos quais vivemos, assim estão passíveis de reproduzir, de sua idealização à implementação e uso, todos os problemas relativos à manutenção e reprodução das desigualdades. Ademais, habitualmente estas idealizações e implementações partem de impérios empresariais de alcance global que recrutam pessoas racialmente marcadas enquanto brancas. Esses agentes racialmente marcados desenvolvem tais aplicações a partir das suas subjetividades ocidentais, para grupos que não necessariamente compartilham deste status e subjetividades.
Ainda no século XIX o sociólogo W.E.B. Du Bois indicava que o grande problema do progresso para o século XX seria a superação da barreira racial. O mundo ocidental empurrou esse problema até o presente. Os significativos avanços tecnológicos, como os que possibilitam a exploração do universo e a criação de órgãos artificiais, evidenciam que o não reconhecimento de rostos não ocidentais pelos algoritmos de identificação não se restringe à incapacidade técnica, mas a razões que devem ser buscadas nas relações sociais e de poder nas quais esses algoritmos são produzidos. A compreensão de que lógicas sociais estão presentes nas escolhas (sobre os códigos de programação e os bancos de dados) dos programadores e dos analistas de dados, e que isso produz uma série de efeitos no mundo e nas diferentes populações, é indispensável para que os efeitos políticos da internet possam ser melhor usados e direcionados. O racismo reproduzido por algoritmos reduz o potencial humano de avanço cognitivo e tecnológico-material, visto que produz uma história única sobre a internet e seus dispositivos digitais. É preciso destituir o conjunto hierárquico de saberes eurocêntricos, compreender e empregar o poder dos algoritmos na tentativa de superação das barreiras raciais.
“E de onde vem os diamantes?
Da lama”.
Racionais Mc’s
* Estudantes de graduação em licenciatura em Ciências Sociais (IFCS/UFRJ).
¹ Kinect tem problemas para identificar jogadores negros, afirma site: http://g1.globo.com/tecnologia/noticia/2010/11/kinect-tem-problemas-para-identificar-jogadores-negros-afirma-site.html ² Fail épico: sistema do Google Fotos identifica pessoas negras como gorilas: https://www.tecmundo.com.br/google-fotos/82458-polemica-sistema-google-fotos-identifica-pessoas-negras-gorilas.htm
³ Apple racista? iPhone X não consegue diferenciar usuários chineses: https://www.noticiasaominuto.com.br/tech/494559/apple-racista-iphone-x-nao-consegue-diferenciar-usuarios-chineses
Referência:
Buffoni, Salete. Apostila de Algoritmo Estruturado. Rio de Janeiro, 2003. Disponível em: http://www.dainf.ct.utfpr.edu.br/~pbueno/Arquivos/Algoritmos.pdf