Vale do Silício precisa de uma nova abordagem para estudar ética agora mais do que nunca

No próximo mês, Apple e Google revelarão recursos para permitir o rastreamento de contatos no iOS e Android para identificar pessoas que tiveram contato com alguém que testa positivo para o novo coronavírus.

Especialistas em segurança têm sido rápidos em apontar os possíveis perigos, incluindo riscos de privacidade, como revelar identidades de usuários covid-19 positivos, ajudar os anunciantes a rastreá-los ou ser vítima de falsos positivos de trolls.

São novas preocupações em debates familiares sobre a ética da tecnologia. Como os tecnólogos devem pensar sobre a troca entre a necessidade imediata de vigilância em saúde pública e a privacidade individual? E má formação e liberdade de expressão? O Facebook e outras plataformas estão desempenhando um papel muito mais ativo do que nunca na avaliação da qualidade da informação: promover fontes oficiais de informação com destaque e remover algumas postagens de usuários que desafiam o distanciamento social.

À medida que a pandemia se espalha e, junto com ela, a corrida para desenvolver novas tecnologias acelera, é mais crítico do que nunca que a tecnologia encontre uma maneira de examinar completamente essas questões. Os tecnólogos de hoje estão mal equipados para este desafio: encontrar equilíbrios saudáveis entre as preocupações concorrentes — como privacidade e segurança — enquanto explicam sua abordagem ao público.

Nos últimos anos, os acadêmicos têm trabalhado para dar aos alunos maneiras de lidar com os dilemas éticos que a tecnologia levanta. No ano passado, Stanford anunciou um novo (e agora popular) curso de graduação sobre "Ética, Políticas Públicas e Mudanças Tecnológicas", ministrado por professores de filosofia, além de ciência política e da computação. Harvard, MIT, UT Austin e outros ensinam cursos semelhantes.

Se os únicos alunos forem futuros tecnólogos, porém, as soluções vão atrasar. Se queremos uma indústria tecnológica mais eticamente experiente hoje, precisamos de estudo ético para profissionais de tecnologia, não apenas estudantes universitários.

Para ampliar esse ensino para os profissionais de tecnologia, nosso fundo de risco, Bloomberg Beta, concordou em hospedar a mesma faculdade de Stanford para um experimento. Com base em seu curso de graduação, poderíamos projetar uma experiência educacional para pessoas idosas que trabalham em todo o setor de tecnologia? Adaptamos o conteúdo (incorporando dilemas do mundo real), estrutura e localização da classe, criando um curso noturno de seis semanas em São Francisco. Uma semana depois de anunciar o curso, recebemos o dobro de inscrições que pudemos acomodar.

Selecionamos um grupo diversificado de alunos de todas as formas que pudemos gerenciar, que todos são responsáveis em tecnologia. Eles nos contaram que quando enfrentaram um dilema ético no trabalho, não tinham uma comunidade para recorrer — alguns confidenciaram a amigos ou familiares, outros revelaram que procuraram respostas na internet. Muitos sentiam medo de falar livremente dentro de suas empresas. Apesar de várias iniciativas de ética lideradas pela empresa, incluindo as que valem a pena nomear diretores de ética e os princípios da Microsoft e da IBM para AI ética, os alunos de nossa classe nos disseram que não tinham espaço para conversas abertas e honestas sobre o comportamento da tecnologia.

Como graduandos, nossos alunos queriam aprender com acadêmicos e líderes do setor. A cada semana destacava-se especialistas como Marietje Schaake, ex-membro do Parlamento Europeu dos Países Baixos, que debatia questões reais, da privacidade de dados à publicidade política. Os professores facilitaram as discussões, incentivando nossos alunos a discutir opiniões múltiplas, muitas vezes opostas, com nossos convidados especializados.

Mais da metade da classe veio de uma formação STEM e perdeu muita educação explícita em quadros éticos. Nossa classe discutiu princípios de outras áreas, como a ética médica, incluindo a máxima orientadora do médico ("primeiro, não faça mal") no contexto da concepção de novos algoritmos. Textos do mundo da ficção científica, como "Aqueles que se afastam de Omelas", de Ursula K. Le Guin, também ofereceram maneiras de lidar com as questões, levando os alunos a avaliar como coletar e usar dados de forma responsável.

As respostas às perguntas baseadas em valores que exploramos (como as trocas entre desinformação e liberdade de expressão) não convergiram em respostas claras "certas" ou "erradas". Em vez disso, os participantes nos disseram que as discussões foram cruciais para o desenvolvimento de habilidades para verificar de forma mais eficaz seus próprios vieses e tomar decisões informadas. Um aluno disse:

Depois de passar por uma série de perguntas, experimentos de pensamento ou tópicos de discussão com os professores, e pensar profundamente sobre cada uma das questões de subalterno, muitas vezes acabei com as posições opostas ao que eu acreditava inicialmente.

Quando o abrigo no local significava que a classe não podia mais se reunir, os participantes entraram em contato dentro de uma semana para solicitar sessões virtuais — desejando um fórum para discutir eventos em tempo real com seus pares em um ambiente estruturado. Após nossa primeira sessão virtual examinando como governo, tecnologia e indivíduos responderam ao COVID-19, um participante comentou: "Parece que há muito mais conversa boa para vir sobre as perguntas, o que podemos fazer, o que devemos fazer, o que devemos fazer?"

Os profissionais de tecnologia parecem querer maneiras de se envolver com o aprendizado ético — a tarefa agora é oferecer mais oportunidades. Planejamos realizar outro curso este ano e estamos procurando maneiras de fornecer uma versão online, publicando os materiais.

O COVID-19 não será a última crise em que contamos com a tecnologia para soluções, e precisamos delas imediatamente. Se queremos discussões mais informadas sobre o comportamento da tecnologia, e queremos que as pessoas que fazem escolhas para entrar nessas crises estejam preparadas para pensar eticamente, precisamos começar a treinar pessoas que trabalham em tecnologia a pensar eticamente.

Para permitir que os alunos explorassem pontos de vista opostos e desconfortáveis e compartilhassem suas experiências pessoais, as discussões em sala de aula eram confidenciais. Recebi permissão explícita para compartilhar qualquer informação dos alunos daqui.