A regra 34 da Internet diz claramente:
34. Se algo existe, há uma versão pornográfica na Internet.
Lembrei-me disso quando, menos de dois dias depois da publicação da bela discussão sobre gênero da Carla, em seu texto O “x” da questão trombei com o mesmo assunto, mas em contexto diferente e cada vez mais presente no mundo moderno. Não me refiro às ligações da questão e gênero com a pornografia, nesse caso, mas sim com outro assunto que cada vez mais permeia nossa sociedade: a Inteligência Artificial. Traduzindo, não vai demorar muito e alguém vai criar um corolário da regra 34 dizendo algo na linha de:
Se uma questão existe, alguém vai tentar respondê-la por meio da Inteligência Artificial.
Com relação à questão de gênero — mais especificamente à orientação sexual — os pesquisadores Yilun Wang e Michael Kosinski, da universidade americana de Stanford, realizaram uma pesquisa recentemente que é de cair o queixo, e está para ser publicada em artigo na revista Journal of Personality and Social Psychology (você pode ler na íntegra o artigo pré-publicação aqui).
A pesquisa é simples, e os resultados assustadores. Wang e Kosinski coletaram fotografias e dados de sites de relacionamento (não são especificados quais, mas o Tinder e o Grindr são exemplos deste tipo de recurso da Internet), arregimentando mais de 35 mil imagens de mais de 14 mil usuários. Cada conjunto de imagens de um usuário vinha com a afirmação do próprio usuário sobre sua orientação sexual: hétero ou homossexual. Estas informações foram alimentadas em um sistema de Deep Learning (do inglês “Aprendizado Profundo”, um dos tipos mais modernos de sistema de inteligência artificial). Treinado com essas informações, o sistema aprendeu a identificar nos traços e expressões faciais, a orientação sexual de uma pessoa. Para testar o sistema, os pesquisadores — que não haviam inserido no sistema todos os dados que coletaram — simplesmente usaram mais fotos para perguntar a orientação sexual desses novos sujeitos.
Os resultados são estarrecedores: o sistema acerta a orientação sexual declarada em 91% das fotos de homens, e em 83% das fotos de mulheres. Estas taxas de acerto são muito superiores às taxas obtidas por seres humanos quando confrontados com as mesmas fotos: uma pessoa acerta a orientação sexual, em média, em 61% das fotos de homens, e em 54% das fotos de mulheres. Os resultados obtidos por humanos são equivalentes a “chutes” no escuro, enquanto a inteligência artificial chega dolorosamente perto da “mosca”.
Esses resultados são bastante preocupantes, pois, por mais que os autores da pesquisa tenham publicado um longo arquivo de notas de pesquisa, explicando suas motivações e alertando contra o mau uso deste tipo de sistema, não há muita dúvida de que programas como este têm um potencial brutal de abuso, e — considerando a natureza humana — é certo que serão abusados por motivos discriminatórios. A ética nos mostra que a divulgação ou não da orientação sexual é uma decisão de foro íntimo do indivíduo, e este sistema simplesmente permite o assalto a esse direito inalienável de cada um.
Isso seria um problema? Claro que sim. Pouco tempo depois do fim da Segunda Guerra Mundial, um dos maiores heróis dos Aliados, o matemático inglês Alan Turing, foi perseguido e levado ao suicídio por conta da divulgação de sua orientação sexual em um momento em que ser homossexual era proibido por lei no Reino Unido. Em muitos países, a homossexualidade é considerada um crime capital até os dias de hoje e, mesmo em países de primeiro mundo, como no caso dos EUA, a sexualidade ainda é motivo para perseguição. Assim demonstrou recentemente o presidente Donald Trump, quando baixou um decreto banindo homens e mulheres transgêneros do serviço militar dos EUA. A partir de agora, pessoas trans não poderão seguir carreira nas Forças Armadas, e há vários oficiais trans nas três armas.
Ainda assim, da mesma maneira que Marie Curie não pode ser responsabilizada pela construção de bombas atômicas com base em suas pesquisas sobre materiais radioativos, Wang e Kosinski não podem levar a culpa pelo abuso que se venha a fazer dos resultados por eles obtidos. Até porque, na mesma analogia de Marie Curie, a radioterapia — arma superimportante no combate ao câncer — também adveio de suas pesquisas, e da mesma maneira não podemos descartar resultados úteis surgindo da pesquisa de Wang e Kosinski. Assim como o sistema dos dois pesquisadores de Stanford consegue identificar características psicológicas a partir das sutis variações de expressão em fotos, poderiam potencialmente identificar características não facilmente perceptíveis em tecidos humanos, prevendo doenças; em padrões climáticos, prevendo furacões; em comportamentos de mercado, prevendo crises econômicas, e por aí vai. A técnica é “agnóstica”, e pode ser usada em vários campos de estudo e de ação.
Outro ponto importante sobre a pesquisa — também levantado pelos autores em suas notas de pesquisa, aliás — é o fato de que a pesquisa também serve de aviso. Especificamente para quem toma sua orientação sexual como informação privilegiada, mas também em geral para quem confia na confidencialidade de seus tratos psicológicos, fica o alerta: a inteligência artificial é uma ferramenta poderosa, e pode ser usada para prejudicar o indivíduo. Como já falei à extensão em meu artigo Big Data, o lado escuro da força, a autora Cathy O’Neil alerta para o mau uso de exatamente este tipo de sistema. A pesquisadora, autora do livro Weapons of Math Destrution, conta-nos que o Big Data pode permitir, por exemplo, que empresas de seguro vasculhem dados de usuários e encontrem motivos para lhes negar cobertura.
Esse sistema, produto da pesquisa de Wang e Kosinski, tem potencial para muito mais abusos. Ao terminar de lê-lo, confesso que fiquei com vergonha de atuar na área de TI e de ser um grande entusiasta da inteligência artificial. Que péssimo é saber que um sistema desses existe e que, mesmo sendo apenas uma prova de conceito, tem uma precisão tão grande.
Fiquei com vergonha, porque sei que esse tipo de resultado é possível, e que é apenas o começo. Há muita coisa de nossa personalidade escondida em expressões, em trejeitos, na forma de se comunicar verbal e não verbalmente. Muitas delas consideramos serem de foro íntimo, como já mencionei, mas os sistemas não têm esse tipo de trava ética: vão continuar dando seus resultados, desde que haja quem os desenvolva e os alimente com dados.
E, como esta própria pesquisa demonstra, não faltam candidatos para ambas as tarefas.
________
Em tempo: no dia 12 de setembro (após este artigo que você está lendo ter ido para o “prelo”) o jornal El País publicou artigo de Patricia Blanco comentando a pesquisa de Wang e Kosinski. Em seu artigo, Blanco apresenta a opinião de Jim Halloran, diretor geral da GLAAD (sigla em inglês que pode-se traduzir como Aliança Gay e Lésbica Contra a Difamação), que reclama dos resultados e do método do estudo, aparentemente sem compreendê-lo tecnicamente. É claro que os resultados são péssimos, e é claro que o estudo em si é assustador. Mas Wang e Kosinski não se basearam em teorias hormonais ou de comportamento, como o artigo de Blanco afirma: usaram fotos e declarações de orientação sexual, e nada mais, e tentaram somente oferecer algumas possibilidades de explicação para tamanha precisão em seus resultados. Wang e Kosinski não alardeiam que descobriram o “radar gay”, ou que esse estudo deve ser usado na prática (muito pelo contrário, aliás). Fazem apenas o que qualquer pesquisador responsável deveria fazer: publicam seus resultados e alertam para o mau uso da Inteligência Artificial em casos semelhantes. Kosinski, aliás, tem estado presente incessantemente na mídia para alertar sobre outras ações antiéticas que podem se valer do mesmo mecanismo usado por ele e por Wang.
Olá. Ruy. Se o sistema poderá ser usado para outros fins porque focar de primeira na "descoberta" da orientação sexual e não em algo mais importante? Para que ter 90-83% de certeza de que alguém é hetero ou homo? Publicar algo assim, me parece bem diferente do estudo da Curie e, sabendo como o mundo é, publicar algo assim é saber da polêmica e da visibilidade que os dois terão.