O título que abre a presente reflexão é uma declaração da cientista da computação Sandra Avila, que assina também a autoria das linhas que aqui escorrerão. Seu relato ocorreu na ocasião da gravação de um podcast sobre ciência e feminismo. [1] Naquela situação, Avila relatou uma experiência de pesquisa nada trivial. Sobre a qual possivelmente ela nunca tenha conseguido conversar com seus colegas da computação, e menos ainda com colaboradores da dermatologia que lhe ofereceram “aconselhamento especializado.” Foi na conversa informal com pesquisadoras feministas que Avila encontrou uma interlocução segura para relatar uma situação que a havia feito chorar de raiva por se sentir enganada.
Avila contribuía para um grupo de pesquisa em ciência da computação que investigava temáticas diversas. Quando decidiram encampar uma pesquisa sobre câncer de pele, imediatamente reconheceram a necessidade de estabelecer parcerias e buscar a opinião técnica de pesquisadores da área da dermatologia.[2] Sua função naquele projeto colaborativo era desenvolver uma ferramenta a partir de algoritmos baseados em técnicas de Inteligência Artificial, mais especificamente Aprendizado de Máquina,[3] para facilitar e otimizar o diagnóstico, baseado na identificação de padrões nos exames de imagem.
Em sua trajetória de vida e carreira, Avila se motivou a trabalhar em projetos que pudessem oferecer melhorias para a vida das pessoas, entusiasta como era da ciência e da sua capacidade de democratização, de oferecer respostas a problemas “sociais.” A ideia de produzir uma ferramenta que tivesse aplicação prática na Saúde soava uma excelente oportunidade para colocar em prática sua ideologia.
Montagem por Sandra Avila com imagens de lesões de pele do ISIC Archive
Avila recebeu reconhecimento acadêmico e público por sua pesquisa e determinação em aprimorar algoritmos que incluíssem a identificação de câncer em peles negras que eram negligenciadas pelas ferramentas à disposição.[4] Tal exclusão resultou em maior mortalidade desse tipo de câncer em pessoas com peles negras, uma vez que o diagnóstico tardio diminuí as chances de remissão.[5]
Ao conhecer o diagnóstico de que as ferramentas disponíveis não incluíam amostras de pessoas com peles negras, ou seja, não estavam aferidas para identificar uma variedade de peles, negligenciando uma parcela da população que ficaria entregue a sua própria sorte, Avila bravamente decidiu trabalhar nessa “falha técnica”[6] e declarava com orgulho sua rebeldia e determinação em só disponibilizar a ferramenta quando esta estivesse robusta e não-excludente o suficiente.[7] Sua pequena-grande insubordinação era resistir bravamente aos processos de aceleração neoliberais, buscando manter tanto quanto possível o compromisso com uma tecnologia que seja inclusiva e antirracista. A ambição cultivada é o acesso democrático. A responsabilidade implica fazer da ciência uma ferramenta de redução da desigualdade social. Não pode haver boa técnica sem compromisso ético e nem responsabilidade que não parta do compromisso cidadão. [8]
Mas eis que um dia Avila se dá conta de que a recomendação que havia recebido do seu colega dermatologista de excluir amostras de unha, palmas das mãos e pés excluía não “amostras confusas,” como declarava o especialista, mas a possibilidade de identificar a maior incidência de câncer de pele em populações negras, que se dá justamente nessas partes do corpo com menor índice de melanina.[9]
Sua experiência não é trivial, não porque se trata de uma colaboração complexa e problemática fora da curva, mas pela decepção da sua descoberta tardia. Por entender muito tarde, ao longo do processo, que sua participação colaborava para perpetuação de uma exclusão.
Intencionalmente o dermatologista recomendava a exclusão de amostras para deliberadamente prejudicar a população negra? Este é um tribunal que não nos cabe. O que interessa é evidenciar os mecanismos estruturais de exclusão e manutenção de privilégios.
Esse evento nos permite levantar questões a propósito da permanência de estratégias e projetos eugênicos nas entranhas dos empreendimentos científicos, bem como sobre os desafios da interdisciplinaridade. A interdependência e colaboração entre disciplinas, uma definição possível para a interdisciplinaridade, é uma dinâmica estrutural das práticas científicas.[10] Não é uma excentricidade, mas propriamente um produto da especialização entre áreas, algo que se intensificou na trajetória disciplinar das ciências modernas. O empreendimento científico moderno cria as condições de existência para a interdisciplinaridade, caracterizando-se como um cenário de ampla colaboração entre cientistas que se apoiam na expertise de outras áreas.
O empenho em dialogar e colaborar não se pauta em pura curiosidade ou inventividade, originalidade ou tentativa de “pensar fora da caixinha.” É recorrente áreas do conhecimento que dependerem de evidências, metodologias ou conceitos de outras áreas para sustentarem a sua própria, apoiando-se em proposições para as quais eles próprios não têm conhecimento—algo que pode ser caracterizado como uma dependência epistêmica que implica a necessidade de testemunho de outros cientistas (Jacksland, 2021).
São múltiplos os arranjos e as formas de diálogo, trocas e empréstimos interdisciplinares possíveis. Colaborações que podem ser caracterizadas pelo encontro de disciplinas cognitivamente divergentes (Jacksland, 2021), em diversos graus—algumas mais familiares e próximas, outras radicalmente distantes. Por isso tais empréstimos, o modo como os achados de uma disciplina é emprestado à outra, podem se dar em condições diferentes, tanto cognitiva quanto politicamente. O prestígio de determinadas áreas e cientistas está sempre em jogo nessas transações disciplinares—como a situação vivenciada por Avila bem evidencia. Mulher negra e jovem, dependente do testemunho médico que goza de grande autoridade na sociedade brasileira, um campo altamente hierarquizado e masculinista, no qual a branquidade é normalizada (Castro, 2022).
Para além das dinâmicas de poder interpessoais, uma característica recorrente das trocas interdisciplinares é a ausência de espaços e ocasiões multidisciplinares adequadas, nas quais a colaboração pode se dar de maneira mais horizontal ou profunda. Há uma certa instrumentalização dessas trocas, na tentativa de torná-las mais céleres, justificada pela falsa emergência da qual as ciências precisam dar conta, em grande medida por estarem inseridas em arranjos tecnocientíficos que respondem às demandas e temporalidade do mercado.
Há situações de encontros de saberes em que as condições epistêmicas decorrem de tamanha dependência em saberes impenetráveis cujos especialistas representantes devem fornecer testemunho.[11] Jacksland (2021) questiona se haveria formas de garantia de que tais tradutores especialistas possam aderir a normas epistêmicas de afirmação que garantam confiabilidade àqueles expostos a uma relação de dependência epistêmica opaca ou translúcida.
As consequências dessa dependência são epistemológicas e políticas, como o caso narrado por Avila bem ilustra. Será exagero considerar que a confiança cega pode implicar em ingenuidade e colaboração em projetos eugênicos? O que significa nomear eugênicos empreendimentos que se distanciam das estratégias nazistas e dos projetos racistas do passado?
As políticas eugênicas explicitamente entrelaçadas à administração das raças no Brasil, que se caracterizaram pelas estratégias de higienização destinadas ao “progresso,” expressavam as preocupações com os destinos da nação e com sua degeneração associada à mestiçagem racial (Schwarcz, 1993). Mas há também os empreendimentos que endereçam um certo aprimoramento do humano promovidos pela biotecnologia (Marini) ou aqueles associados a uma nova retórica da diferença associada à deficiência na atualidade (Lopes, 2015),[12] que evidenciam a permanência “invisível” de discriminação próprias à gestão das populações.
Como destaca o antropólogo Marko Monteiro (2012), a eugenia se torna central para entendermos os processos impulsionados pela tecnologia e biomedicina na atualidade na medida em que se caracteriza como um exemplo histórico da expressão mais radical de uma lógica de politização da vida. Não se trata, no entanto, de acusar a biotecnologia de ser eugênica, o que seria simplista, imputando somente uma intenção nefasta ao biotecnológico. Pelo contrário, se trata de compreender suas formas de manejo e controle social.
Estratégias de melhoramento genético tem implicações sociais e políticas semelhantes aos algoritmos que excluem a identificação de câncer de pele em pessoas negras? Selecionar e impedir de nascer, é também uma necropolítica de deixar morrer? Questões retóricas que não pretendemos endereçar aqui, cujo propósito é singelo: narrar o evento em que uma cientista bem-intencionada descobriu que seu trabalho perpetuava a exclusão. Entendemos que os cientistas deveriam falar mais sobre os seus “fracassos,” pois há muito o que aprender com eles.
Notas
[1] MUNDARÉU – Podcast de Antropopologia: https://mundareu.labjor.unicamp.br/21-todo-laboratorio-e-sobre-pessoas/
[2] A consulta a especialistas da dermatologia se deu em momentos distintos, a pesquisadores diversos, seja para encontrar bancos de dados com amostras para análise, ou para a apresentação dos resultados das avaliações dos algoritmos para juntos levantarem hipóteses sobre as razões para as dificuldades de reconhecimento dos algoritmos.
[3] Aprendizado ou aprendizagem de máquina é um campo da inteligência artificial voltado à construção de algoritmos que podem “aprender” padrões a partir de dados sobre determinado fenômeno. Os algoritmos normalmente são aplicados a novos dados para fazer previsões ou fornecer outros resultados úteis, como identificar tumores em exames.
[4] A literatura especializada que informou seu projeto, assim como as bases de dados à disposição era limitada a dados lesões em peles brancas. Não foi uma escolha de Avila, mas os únicos dados públicos à disposição eram de pessoas brancas.
[5] Avila alerta: a dificuldade de diagnóstico pode estar relacionada ao viés—por parte dos médicos e da população, anterior ao viés dos algoritmos—de que a pigmentação escura é protetora do câncer de pele. No entanto, se uma pessoa tem pele, ela pode desenvolver câncer de pele. Ainda hoje, a maioria dos livros didáticos que servem como roteiros para o diagnóstico de doenças de pele não incluem imagens de doenças de pele como aparecem em pessoas negras, ou quando incluem, esse número não passa de 10% [ref: https://www.nytimes.com/2020/08/30/health/skin-diseases-black-hispanic.html]. Se uma pessoa dermatologista apenas aprende a diagnosticar uma lesão pelas suas características em pele branca, pode não conseguir classificá-la em pele negra já que os padrões podem ser diferentes.
[6] Ruha Benjamin (2019) já nos alertou sobre os mecanismos discriminatórios presentes no desenvolvimento científico e tecnológico que não são “efeitos colaterais,” mas compõem um projeto de “design discriminatório.”
[7] Em reportagem divulgada pela revista Fapesp, instituição que financiou a pesquisa, a pesquisadora declara seu compromisso e a necessidade de democratizar a tecnologia: “As formas como os tumores se apresentam e a agressividade com que evoluem, porém, são diferentes em cada um dos seis fototipos de pele existentes. A comparação da imagem de uma lesão cutânea de uma pessoa negra com um banco de dados formado por amostras de brancos pode levar o sistema a cometer erros. ‘Precisamos de um banco que espelhe a diversidade brasileira.’” Reportagem disponível em: https://revistapesquisa.fapesp.br/diagnosticos-digitais/
[8] Ainda não existe um software de fato. Até agora a pesquisa produziu uma solução (e modelos diversos), que consegue classificar corretamente com uma taxa de acerto alta (+95%) imagens de lesões de melanoma e lesões benignas. A pesquisadora destacou que o desenvolvimento do software é a parte mais rápida do processo, mas não faz sentido desenvolvê-lo se o modelo ainda não funciona para todes. O software nesse processo é a interface para o uso do modelo. Cabe destacar que a construção dessa solução aconteceu por muitas mãos (pesquisadores de Iniciação Científica, Mestrado, Doutorado, Pós-doutorado e Docentes). Existem diversos trabalhos na literatura e aplicativos para diagnóstico de lesões de pele. Mas, a ferramenta não foi necessariamente inspirada em outras.
[9] O melanoma acral não está relacionado à exposição solar, já que costuma se desenvolver nas palmas das mãos, plantas dos pés e nas unhas. Logo, os pacientes de pele negra enfrentam um prognóstico ruim, com o aumento da morbidade e mortalidade, que geralmente é resultado do diagnóstico tardio. Além disso, as regiões acrais, especialmente os pés, são muitas vezes negligenciadas por dermatologistas nas avaliações físicas (Kelly et al., 2009; 2015).
[10] Cabe diferenciar a interdisciplinaridade de outros arranjos ou encontros disciplinares, como a transdisciplinaridade, pois são projetos com propósitos e implicações distintas. Nelson Maldonado-Torres (2016) sugere que a transdisciplinaridade explicitamente deve sustentar-se em uma orientação emancipatória e descolonizadora dos espaços interdisciplinares. A transdisciplinaridade proposta por Maldonado-Torres está mais próxima (ou encontra-se em trilhas paralelas) às reivindicações pluriepistêmicas ou interepistêmicas (Barbosa Neto & Goldman, 2022; Guimarães, 2022), destinadas ao reconhecimento de saberes negligenciados entre práticas científicas hegemônicas. Tais estudos étnicos e saberes não hegemônicos reivindicados para a consolidação de espaços transdisciplinares não estão comprometidos com o cultivo da tolerância frente à diversidade, mas sim desmantelar as formas de poder. O mesmo não se aplica à interdisciplinaridade, caracterizada como a colaboração entre ciências legitimadas, ainda que hierarquizadas.
[11] Nas ciências sociais, o exemplo apresentado por Jacksland refere-se ao trabalho de Karen Barad, física teórica e filósofa da ciência feminista, que se torna “tradutora privilegiada.” Seu ponto é iluminar o uso da mecânica quântica na teoria crítica, a partir do trabalho desenvolvido por Vicky Kirby—para quem a integração entre a mecânica quântica e a teoria crítica, só é possível com a ajuda de tradutores. Trata-se de um exemplo de amplo empréstimo interdisciplinar, onde poucos tradutores têm experiência conjunta em ambas as disciplinas, como é o caso de Karen Barad.
[12] Ao resgatar os desenvolvimentos históricos associados às categorias de inteligência com intuito de compreender sua associação à emergência e transformações da categoria deficiência na atualidade, Lopes recorre à cena racista e eugenista do século XIX, destacando a articulação histórica entre raça e sexualidade, constituindo-se, portanto, como um desafio biopolítico de gestão dos sujeitos e das populações.
Referências Bibliográficas
Barbosa Neto, E. R., & Goldman, M. (2022). A maldição da tolerância e a arte do respeito nos encontros de saberes – 1a. Parte. Revista De Antropologia, 65(1), e192790. https://doi.org/10.11606/1678-9857.ra.2022.192790″ https://doi.org/10.11606/1678-9857.ra.2022.192790
Castro, Rosana. Pele negra, jalecos brancos: racismo, cor(po) e (est)ética no trabalho de campo antropológico. Revista de Antropologia, São Paulo, v. 65, n. 1, e192796, 2022. ISSN: 1678-9857. DOI: https://doi.org/10.11606/1678-9857.ra.2022.192796. Disponível em: https://www.revistas.usp.br/ra/article/view/192796. Acesso em: 13 de junho de 2022
Benjamin, Ruha. Race After Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity Press, 2019.
Guimarães, César. “Eu sou a força de puxar”: o encontro interepistêmico com Maria Luiza Marcelino, mestra quilombola e umbandista. Saúde e Sociedade. 2022, v. 31, n. 2.
Jaksland, Rasmus. Norms of Testimony in Broad Interdisciplinarity: The Case of Quantum Mechanics in Critical Theory. J Gen Philos Sci 52, 35–61 (2021). https://doi.org/10.1007/s10838-020-09523-5″ https://doi.org/10.1007/s10838-020-09523-5
Kelly, A. Paul, and Susan Taylor. Dermatology for skin of color. McGraw-Hill Education/Medical, 2009.
Kelly A. Paul, Taylor SC, Lim HC, Serrano AMA (2015). Taylor and Kelly’s Dermatology for Skin of Color, 2nd edition. New York: McGraw-Hill Medical.
Lopes, Pedro. Negociando Deficiências: identidades e subjetividades entre pessoas com “deficiência intelectual.” Dissertação de Mestrado, Universidade de São Paulo, 2014.
Maldonado-Torres, Nelson. (2016). Transdisciplinaridade e decolonialidade. Sociedade E Estado, 31(1), 75–97. https://doi.org/10.1590/S0102-69922016000100005
Monteiro, Marko Synésio Alves. Os dilemas do humano – Reinventando o corpo numa era (bio) tecnológica. São Paulo: Anablume, 2012.
Schwarcz, Lilia. O espetáculo das raças: cientistas, instituições e questão racial no Brasil, 1870-1930. São Paulo: Companhia das Letras, 1993.
