¿Alguna vez sospechó, basándose en los acontecimientos y tensiones anteriores, que terminaría de esta manera? ¿Y esperaba la respuesta de la comunidad?
Pensé que podrían hacerme lo suficientemente miserable como para irme, o algo así. Pensé que serían más inteligentes que hacerlo de esta manera exacta, porque es una confluencia de muchos problemas con los que están lidiando: censura de la investigación, IA ética, derechos laborales, DEI, todas las cosas a las que se han enfrentado. fuego para antes. Así que no esperaba que fuera de esa manera, como cortar mi cuenta corporativa por completo. Eso es tan despiadado. Eso no es lo que les hacen a las personas que han cometido una falta grave. Ellos dales $ 80 millones, y les dan una pequeña salida, o tal vez pasiva-agresivamente no los promueven, o lo que sea. No les hacen a las personas que en realidad están creando un entorno laboral hostil lo que me hicieron a mí.
Me enteré por mis subordinados directos, ¿sabes? Que es tan, tan triste. Estaban tan traumatizados. Creo que mi equipo se quedó despierto hasta las 4 o 5 de la mañana, tratando de darle sentido a lo que sucedió. Y rodear a Samy, fue todo tan terrible y despiadado.
Pensé que si solo … me concentraba en mi trabajo, al menos podría terminar mi trabajo. Y ahora vienes por mi trabajo. Entonces, literalmente, comencé a llorar.
Esperaba una cierta cantidad de apoyo, pero definitivamente no esperaba la cantidad de efusión que hay. Ha sido increíble verlo. Nunca, nunca había experimentado algo como esto. Quiero decir, parientes al azar me envían mensajes de texto, “Vi esto en las noticias”. Eso definitivamente no es algo que esperaba. Pero la gente está corriendo tantos riesgos en este momento. Y eso me preocupa, porque realmente quiero asegurarme de que estén a salvo.
Has mencionado que esto no se trata solo de ti; no se trata solo de Google. Es una confluencia de tantos problemas diferentes. ¿Qué dice esta experiencia en particular sobre la influencia de las empresas de tecnología en la IA en general y su capacidad para realizar un trabajo significativo en la ética de la IA?
Sabes, hubo varias personas comparando Big Tech y Big Tobacco, y cómo estaban censurando la investigación a pesar de que conocían los problemas por un tiempo. Rechazo la dicotomía academia versus tecnología, porque ambos tienen el mismo tipo de paradigma muy racista y sexista. El paradigma que aprendes y llevas a Google o donde sea que comience en la academia. Y la gente se mueve. Van a la industria y luego vuelven a la academia, o viceversa. Todos son amigos; todos van a las mismas conferencias.
No creo que la lección sea que no debería haber investigación ética de la IA en las empresas de tecnología, pero creo que la lección es que a) debe haber mucha más investigación independiente. Necesitamos tener más opciones que solo DARPA [the Defense Advanced Research Projects Agency] versus corporaciones. Y b) es necesario que haya supervisión de las empresas de tecnología, obviamente. En este punto, simplemente no entiendo cómo podemos seguir pensando que se van a autorregular en DEI o la ética o lo que sea. No han estado haciendo lo correcto y no van a hacer lo correcto.
Creo que las instituciones académicas y las conferencias deben repensar sus relaciones con las grandes corporaciones y la cantidad de dinero que les están quitando. Algunas personas incluso se preguntaban, por ejemplo, si algunas de estas conferencias deberían tener un código de conducta de “no censura” o algo así. Entonces creo que hay mucho que estas conferencias e instituciones académicas pueden hacer. Hay demasiado desequilibrio de poder en este momento.
¿Qué papel crees que pueden jugar los investigadores en ética si están en las empresas? Específicamente, si su antiguo equipo permanece en Google, ¿qué tipo de camino ve para ellos en términos de su capacidad para producir un trabajo impactante y significativo?
Creo que es necesario que haya algún tipo de protección para personas así o investigadores así. En este momento, es obviamente muy difícil imaginar cómo alguien puede hacer una investigación real dentro de estas corporaciones. Pero si tuviera protección laboral, si tiene protección de denunciante, si tiene más supervisión, podría ser más fácil para las personas estar protegidas mientras realizan este tipo de trabajo. Es muy peligroso si tienes este tipo de investigadores haciendo lo que mi codirector llamaba trabajo de “hoja de parra”, encubrimiento. Por ejemplo, no estamos cambiando nada, solo estamos poniendo una hoja de parra en el arte. Si estás en un entorno donde las personas que tienen el poder no invierten en cambiar nada de verdad, porque no tienen ningún incentivo, obviamente tener este tipo de investigadores integrados no ayudará en absoluto. Pero creo que si podemos crear mecanismos de responsabilidad y supervisión, mecanismos de protección, espero que podamos permitir que investigadores como este sigan existiendo en las corporaciones. Pero es necesario cambiar mucho para que eso suceda.