Silicon Valley necesita un nuevo enfoque para estudiar ética ahora más que nunca – TechCrunch


El próximo mes, Apple y Google presentarán características para permitir el rastreo de contactos en iOS y Android para identificar a las personas que han tenido contacto con alguien que da positivo por el nuevo coronavirus.

Los expertos en seguridad se han apresurado a señalar posibles peligros, incluyendo riesgos de privacidad como revelar identidades de usuarios positivos para COVID-19, ayudar a los anunciantes a rastrearlos o ser víctimas de falsos positivos de los trolls.

Estas son nuevas preocupaciones en debates familiares sobre la ética de la tecnología. ¿Cómo deberían pensar los tecnólogos sobre la compensación entre la necesidad inmediata de vigilancia de la salud pública y la privacidad individual? ¿Y malformación y libertad de expresión? Facebook y otras plataformas están desempeñando un papel mucho más activo que nunca en la evaluación de la calidad de la información: promoviendo fuentes de información oficiales de manera prominente y eliminando algunas publicaciones de los usuarios que desafían el distanciamiento social.

A medida que la pandemia se propaga y, junto con ella, la carrera por desarrollar nuevas tecnologías se acelera, es más crítico que nunca que la tecnología encuentre una manera de examinar estas preguntas por completo. Los tecnólogos de hoy están mal equipados para este desafío: lograr equilibrios saludables entre las preocupaciones en competencia, como la privacidad y la seguridad, al tiempo que explican su enfoque al público.

En los últimos años, los académicos han trabajado para brindar a los estudiantes formas de abordar los dilemas éticos que plantea la tecnología. El año pasado, Stanford anunció un nuevo (y ahora popular) curso de pregrado sobre "Ética, políticas públicas y cambio tecnológico", impartido por profesores de filosofía, así como de ciencias políticas e informáticas. Harvard, MIT, UT Austin y otros imparten cursos similares.

Si los únicos estudiantes son futuro tecnólogos, sin embargo, las soluciones se retrasarán. Si queremos una industria tecnológica con más conocimientos éticos en la actualidad, necesitamos un estudio ético para la tecnología. practicantes, no solo estudiantes universitarios.

Para ampliar esta enseñanza a los profesionales de la tecnología, nuestro fondo de riesgo, Bloomberg Beta, acordó organizar la misma facultad de Stanford para un experimento. Con base en su curso de pregrado, ¿podríamos diseñar una experiencia educativa para personas mayores que trabajan en el sector tecnológico? Adaptamos el contenido (incorporando dilemas del mundo real), la estructura y la ubicación de la clase, creando un curso nocturno de seis semanas en San Francisco. Una semana después de anunciar el curso, recibimos el doble de solicitudes que pudimos acomodar.

Seleccionamos un grupo diverso de estudiantes en todas las formas que pudimos gestionar, todos con responsabilidad en tecnología. Nos dijeron que cuando se enfrentaban a un dilema ético en el trabajo, carecían de una comunidad a la cual recurrir; algunos confiaban en amigos o familiares, otros revelaban que buscaban respuestas en Internet. Muchos sintieron miedo de hablar libremente dentro de sus empresas. A pesar de varias iniciativas de ética dirigidas por la compañía, incluidas las que valen la pena para nombrar directores de ética y los principios de Microsoft e IBM para la IA ética, los estudiantes de nuestra clase nos dijeron que no tenían espacio para conversaciones abiertas y honestas sobre el comportamiento de la tecnología.

Si queremos una industria tecnológica con más conocimientos éticos en la actualidad, necesitamos un estudio ético para los profesionales de la tecnología, no solo para los estudiantes universitarios.

Al igual que los estudiantes universitarios, nuestros estudiantes querían aprender de académicos y líderes de la industria. Cada semana aparecieron expertos como Marietje Schaake, ex miembro de la Parlamento Europeo de los Países Bajos, que debatieron cuestiones reales, desde la privacidad de los datos hasta la publicidad política. Los profesores facilitaron las discusiones, alentando a nuestros estudiantes a discutir múltiples puntos de vista, a menudo opuestos, con nuestros invitados expertos.

Más de la mitad de la clase provenía de un fondo STEM y había perdido mucha educación explícita en marcos éticos. Nuestra clase discutió principios de otros campos, como la ética médica, incluida la máxima guía del médico ("primero, no hacer daño") en el contexto del diseño de nuevos algoritmos. Los textos del mundo de la ciencia ficción, como "Los que se alejan de las omelas" de Ursula K. Le Guin, también ofrecieron formas de lidiar con los problemas, lo que llevó a los estudiantes a evaluar cómo recopilar y utilizar datos de manera responsable.

Las respuestas a las preguntas basadas en valores que exploramos (como las compensaciones entre información errónea y libertad de expresión) no convergieron en respuestas claras "correctas" o "incorrectas". En cambio, los participantes nos dijeron que las discusiones fueron cruciales para desarrollar habilidades para verificar más efectivamente sus propios prejuicios y tomar decisiones informadas. Un estudiante dijo:

Después de caminar a través de una serie de preguntas, experimentos de pensamiento o temas de discusión con los profesores, y pensar profundamente sobre cada uno de los temas subyacentes, a menudo terminé con las posiciones opuestas a lo que inicialmente creía.

Cuando refugiarse en el lugar significaba que la clase ya no podía reunirse, los participantes se comunicaron dentro de una semana para solicitar sesiones virtuales, ansiando un foro para discutir eventos en tiempo real con sus compañeros en un entorno estructurado. Después de nuestra primera sesión virtual examinando cómo el gobierno, la tecnología y las personas han respondido a COVID-19, un participante comentó: “Parece que hay muchas más buenas conversaciones para hacer las preguntas, qué podemos hacer, qué debemos hacer, qué debe hacer ¿hacemos?"

Los profesionales de la tecnología parecen querer formas de participar en el aprendizaje ético; la tarea ahora es proporcionar más oportunidades. Planeamos organizar otro curso este año y estamos buscando maneras de proporcionar una versión en línea, publicando los materiales.

COVID-19 no será la última crisis en la que dependamos de la tecnología para encontrar soluciones y las necesitemos de inmediato. Si queremos discusiones más informadas sobre el comportamiento de la tecnología, y queremos que las personas que toman decisiones para entrar en estas crisis estén preparadas para pensar éticamente, debemos comenzar a capacitar a las personas que trabajan en tecnología para que piensen éticamente.


Para permitir a los estudiantes explorar puntos de vista opuestos e incómodos y compartir sus experiencias personales, las discusiones en clase fueron confidenciales. He recibido permiso explícito para compartir cualquier información de los estudiantes aquí.

LO MÁS LEÍDO

Leave a Reply

Your email address will not be published. Required fields are marked *