Silicon Valley necesita un nuevo enfoque para estudiar ética ahora más que nunca

El próximo mes, Apple y Google darán a conocer funciones para permitir el rastreo de contactos en iOS y Android para identificar a las personas que han tenido contacto con alguien que da positivo por el nuevo coronavirus.

Los expertos en seguridad se han apresurado a señalar los posibles peligros, incluidos los riesgos de privacidad como revelar identidades de usuarios COVID-19 positivos, ayudar a los anunciantes a rastrearlos o caer presa de falsos positivos de los trolls.

Estas son nuevas preocupaciones en debates familiares sobre la ética tecnológica. ¿Cómo deben pensar los tecnólogos sobre el equilibrio entre la necesidad inmediata de vigilancia de la salud pública y la privacidad individual? ¿Y la deformación y la libertad de expresión? Facebook y otras plataformas están desempeñando un papel mucho más activo que nunca en la evaluación de la calidad de la información: promover las fuentes de información oficiales de manera prominente y eliminar algunas publicaciones de los usuarios que desafían el distanciamiento social.

A medida que la pandemia se propaga y, junto con ella, la carrera por desarrollar nuevas tecnologías se acelera, es más importante que nunca que la tecnología encuentre una manera de examinar plenamente estas preguntas. Los tecnólogos de hoy en día no están bien equipados para este desafío: lograr equilibrios saludables entre las preocupaciones de la competencia, como la privacidad y la seguridad, al tiempo que explican su enfoque al público.

En los últimos años, los académicos han trabajado para dar a los estudiantes maneras de abordar los dilemas éticos que plantea la tecnología. El año pasado, Stanford anunció un nuevo (y ahora popular) curso de pregrado sobre "Etica, Políticas Públicas y Cambio Tecnológico", impartido por profesores de filosofía, así como ciencias políticas e informáticas. Harvard, MIT, UT Austin y otros imparten cursos similares.

Sin embargo, si los únicos estudiantes son futuros tecnólogos, las soluciones se relagranrán. Si queremos una industria tecnológica más éticamente bien experta hoy en día, necesitamos un estudio ético para los profesionales de la tecnología, no solo para los estudiantes universitarios.

Para ampliar esta enseñanza a los profesionales de la tecnología, nuestro fondo de riesgo, Bloomberg Beta, acordó acoger la misma facultad de Stanford para un experimento. Basándonos en su curso de pregrado, ¿podríamos diseñar una experiencia educativa para personas de la tercera edad que trabajan en todo el sector tecnológico? Adaptamos el contenido (incorporando dilemas del mundo real), estructura y ubicación de la clase, creando un curso nocturno de seis semanas en San Francisco. Una semana después de haber anuncio el curso, recibimos el doble de solicitudes que pudimos acomodar.

Seleccionamos un grupo diverso de estudiantes en todos los aspectos que pudimos administrar, que todos tienen la responsabilidad en la tecnología. Nos dijeron que cuando se enfrentaban a un dilema ético en el trabajo, carecían de una comunidad a la que recurrir: algunos confiaban en amigos o familiares, otros revelaron que buscaban respuestas en Internet. Muchos tenían miedo de hablar libremente dentro de sus empresas. A pesar de varias iniciativas de ética dirigidas por la empresa, incluidas las que valen la pena nombrar a los directores de ética y los principios de Microsoft e IBM para la IA ética, los estudiantes de nuestra clase nos dijeron que no tenían espacio para conversaciones abiertas y honestas sobre el comportamiento de la tecnología.

Al igual que los estudiantes de pregrado, nuestros estudiantes querían aprender tanto de académicos como de líderes de la industria. Cada semana contó con expertos como Marietje Schaake, ex miembro del Parlamento Europeo de los Países Bajos, que debatió cuestiones reales, desde la privacidad de los datos hasta la publicidad política. Los profesores facilitaron las discusiones, animando a nuestros estudiantes a discutir múltiples puntos de vista, a menudo opuestos, con nuestros invitados expertos.

Más de la mitad de la clase provenía de un origen STEM y había perdido mucha educación explícita en marcos éticos. Nuestra clase discutió principios de otros campos, como la ética médica, incluyendo la máxima guía del médico ("primero, no hacer daño") en el contexto del diseño de nuevos algoritmos. Textos del mundo de la ciencia ficción, como "The Ones Who Walk Away from Omelas" de Ursula K. Le Guin, también ofrecieron formas de lidiar con problemas, lo que llevó a los estudiantes a evaluar cómo recopilar y usar los datos de manera responsable.

Las respuestas a las preguntas basadas en valores que exploramos (como las compensaciones entre la desinformación y la libertad de expresión) no convergieron en respuestas claras "correctas" o "equivocadas". En cambio, los participantes nos dijeron que los debates eran cruciales para desarrollar habilidades para verificar más eficazmente sus propios sesgos y tomar decisiones informadas. Un estudiante dijo:

Después de caminar a través de una serie de preguntas, experimentos de pensamiento o temas de discusión con los profesores, y pensar profundamente en cada uno de los temas de subtending, a menudo terminaba con las posiciones opuestas a lo que inicialmente creía.

Cuando el refugio en el lugar significaba que la clase ya no podía reunirse, los participantes se reunieron en una semana para solicitar sesiones virtuales, anhelando un foro para discutir eventos en tiempo real con sus compañeros en un entorno estructurado. Después de nuestra primera sesión virtual examinando cómo el gobierno, la tecnología y las personas han respondido a COVID-19, un participante comentó: "Se siente como una conversación mucho más buena por venir sobre las preguntas, qué podemos hacer, qué debemos hacer, qué debemos hacer?"

Los profesionales de la tecnología parecen querer formas de involucrarse con el aprendizaje ético, la tarea ahora es proporcionar más oportunidades. Planeamos organizar otro curso este año y estamos buscando maneras de proporcionar una versión en línea, publicando los materiales.

COVID-19 no será la última crisis en la que confiemos en la tecnología para soluciones, y las necesitamos de inmediato. Si queremos discusiones más informadas sobre el comportamiento de la tecnología, y queremos que las personas que toman decisiones para entrar en estas crisis estén preparadas para pensar éticamente, necesitamos comenzar a capacitar a las personas que trabajan en tecnología para que piensen éticamente.

Para permitir que los alumnos exploren puntos de vista opuestos e incómodos y compartan sus experiencias personales, los debates en clase fueron confidenciales. He recibido permiso explícito para compartir cualquier información de los estudiantes aquí.