Há perguntas que envelhecem e outras apenas mudam de cenário.
Uma das que atravessam praticamente toda a história humana é simples de formular e difícil de responder: o que devemos uns aos outros?
Foi essa pergunta que ficou comigo depois da Masterclass sobre ética, passado, presente e futuro.
Quando pensamos em ética, é fácil imaginar um assunto reservado à filosofia, aos livros ou a grandes dilemas morais. Mas, quanto mais observo as decisões que tomamos diariamente, mais percebo o contrário. Ética está no trabalho, no celular, no algoritmo que escolhe o que aparece na nossa tela, na empresa que decide quais dados coletar, na publicidade que tenta capturar nossa atenção e até naquilo que aceitamos como normal simplesmente porque todo mundo passou a fazer.
Talvez essa seja uma das razões pelas quais discutir ética hoje seja tão importante.
A tecnologia mudou rapidamente. A pergunta sobre como devemos agir, nem tanto.
Entre a regra e a escolha
Uma distinção apresentada na Masterclass me parece especialmente útil.
Moral diz respeito às normas e aos valores que determinado grupo ou sociedade estabelece. A ética pergunta por que essas regras existem, se são justas e se ainda fazem sentido. Já o caráter aparece quando a decisão deixa de depender da existência de uma regra e passa a revelar quem somos quando precisamos escolher.
Gosto dessa diferença porque ela tira a ética do campo da teoria.
Uma política corporativa pode dizer o que devemos fazer. Um código de conduta pode estabelecer limites. Uma regulamentação pode determinar o que é permitido.
Mas haverá situações em que nenhuma dessas coisas será suficiente.
É justamente nesses espaços que aparecem as perguntas mais incômodas.
Fazer algo porque é permitido significa que deveríamos fazê-lo?
Ter capacidade tecnológica para executar determinada ação significa que ela é desejável?
Cumprir uma regra é suficiente quando sabemos que o impacto produzido por ela pode ser injusto?
A história da ética é, em boa medida, uma tentativa de responder a questões como essas. Algumas correntes colocaram o dever no centro. Outras olharam para as consequências. Aristóteles voltou sua atenção para as virtudes e para o caráter de quem decide.
Séculos depois, continuamos recorrendo às mesmas lentes.
Só que agora os dilemas ganharam código, dados e escala.
Quando decisões passam para os algoritmos
Um dos pontos que mais me provoca é perceber a quantidade de decisões que delegamos a sistemas.
Algoritmos já ajudam a selecionar currículos, analisar crédito, recomendar conteúdos e avaliar riscos. O problema começa quando tratamos essas decisões como se fossem essencialmente neutras porque foram produzidas por matemática.
Não são.
Modelos aprendem com dados e dados carregam escolhas, desigualdades e padrões construídos anteriormente pela sociedade. O material da Masterclass lembra exemplos conhecidos de sistemas de recrutamento que reproduziram vieses e de tecnologias de reconhecimento facial com desempenho desigual entre diferentes grupos.
Isso leva a uma pergunta que considero muito mais interessante do que simplesmente discutir se a inteligência artificial é boa ou ruim: quando existe um viés dentro de um sistema, quem responde por ele?
Quem escreveu o código?
Quem escolheu os dados?
Quem aprovou o modelo?
A empresa que decidiu utilizá-lo?
Ou ninguém, porque a decisão foi “da máquina”?
Essa última alternativa deveria nos preocupar.
Quanto mais sofisticada a tecnologia se torna, maior é a tentação de transformar responsabilidade humana em responsabilidade técnica.
Mas algoritmos não aparecem espontaneamente. Alguém define objetivos, critérios, métricas, tolerâncias e limites.
Toda tecnologia carrega escolhas.
E escolhas carregam valores.
Privacidade, atenção e uma normalização silenciosa
Há outro aspecto dessa discussão que me parece ainda mais próximo da nossa rotina.
Cada clique, busca, localização, preferência e interação pode se transformar em dado. A fronteira entre personalização e vigilância ficou mais difícil de perceber, enquanto algoritmos de engajamento aprenderam a priorizar aquilo que prende nossa atenção, o que não necessariamente significa aquilo que é mais verdadeiro ou mais saudável.
O desconforto, para mim, está justamente na normalização.
Poucas dessas mudanças chegaram como grandes rupturas.
Nós fomos aceitando aos poucos.
Mais dados em troca de conveniência.
Mais monitoramento em troca de segurança.
Mais exposição em troca de relevância.
Mais tempo de tela em troca de conexão.
Até que práticas que talvez provocassem estranhamento alguns anos atrás passaram a fazer parte da rotina.
É aqui que a ética recupera sua função mais importante: fazer perguntas antes que o hábito transforme uma escolha em algo aparentemente inevitável.
As apostas talvez sejam um dos melhores exemplos do nosso tempo
O debate sobre bets apresentado na Masterclass tornou isso particularmente concreto.
A questão não é apenas decidir se apostar é certo ou errado.
Existe liberdade individual, mas também existe vulnerabilidade. Existe atividade econômica e arrecadação, mas também existe dano social. Existe um mercado regulado, mas existe uma publicidade capaz de normalizar a aposta como parte da vida cotidiana.
Os números dão dimensão ao problema. O material aponta que 24 milhões de pessoas fizeram ao menos uma transferência para apostas e que 20% dos apostadores enxergam a atividade como uma forma de “investimento”.
É difícil olhar para esses dados sem perceber que a discussão ultrapassa o comportamento individual.
Ela envolve design, comunicação, responsabilidade empresarial, educação financeira, regulação e proteção de pessoas vulneráveis.
E novamente surge uma pergunta desconfortável: até onde vai a autonomia quando todo o ambiente ao redor foi desenhado para estimular determinada decisão?
Não tenho uma resposta simples.
Talvez esse seja exatamente o ponto.
O futuro vai tornar essas perguntas ainda mais difíceis
Se hoje discutimos algoritmos e privacidade, o que vem pela frente tende a desafiar ainda mais os limites que usamos para tomar decisões.
Edição genética já permite corrigir determinadas alterações no código da vida. A evolução dessas ferramentas aproxima cada vez mais a ideia de corrigir da possibilidade de escolher características. Sistemas autônomos também avançam para contextos nos quais poderão tomar decisões diante de situações que não foram previamente programadas.
Em algum momento, portanto, teremos de responder:
Quem ensina ética a uma máquina?
Qual ética?
Baseada em quais valores?
Definida por quem?
Essa talvez tenha sido a provocação mais forte da Masterclass para mim.
Durante muito tempo, grandes sistemas de valores foram construídos e debatidos por filósofos, religiões, Estados e sociedades. Hoje, parte desses valores também está sendo traduzida silenciosamente em regras de produto, modelos estatísticos, parâmetros de sistemas e decisões de design feitas dentro de empresas.
Isso aumenta enormemente a responsabilidade de quem constrói tecnologia.
Mas também de quem lidera organizações.
Porque ética não pode aparecer apenas depois que alguma coisa dá errado.
Precisa estar na pergunta anterior à decisão.
Talvez ética seja, antes de tudo, a coragem de perguntar
Saí dessa discussão com menos respostas do que perguntas.
E considero isso uma coisa boa.
A ética nunca foi uma ciência das respostas definitivas. Cada geração recebe alguns dilemas de quem veio antes e cria outros completamente novos. O próprio encerramento da Masterclass sintetiza essa ideia ao lembrar que a ética se refaz quando uma geração decide perguntar novamente.
Nosso desafio está bem aí, de não esperar que a tecnologia nos apresente um problema para então perguntar se deveríamos ter feito diferente. Questionar antes.
Quem pode ser prejudicado por esta decisão?
Que comportamento estamos incentivando?
Que valor está escondido nesta escolha?
Se essa tecnologia funcionar exatamente como imaginamos, qual será a sociedade que ela ajudará a construir?
O maior risco não é criar tecnologias capazes de tomar decisões por nós, e sim parar de perceber que, antes delas, fomos nós que decidimos quais valores seriam colocados dentro delas.
