Google actualmente está bajo fuego por aparentemente expulsando a un investigador cuyo trabajo advirtió sobre el sesgo en la IA, y ahora un informe de Reuters dice que a otras personas que realizan este tipo de trabajo en la empresa se les ha pedido que “adopten un tono positivo” y se sometan a revisiones adicionales por investigaciones que abordan “temas delicados”.
Reuters, citando a investigadores de la empresa y docum entos internos, informa que Google ha implementado nuevos controles en el último año, incluida una ronda adicional de inspección de artículos sobre ciertos temas y aparentemente un aumento en la interferencia ejecutiva en etapas posteriores de la investigación.
Ese ciertamente parece haber sido el caso del Dr. Timnit Gebru, una investigadora de inteligencia artificial en Google cuya renuncia parece haber sido forzada en circunstancias confusas, luego de la fricción entre ella y la gerencia sobre el trabajo que estaba haciendo su equipo. (Le pedí a Gebru y a Google que comentaran la historia).
Entre los temas “sensibles”, según una página web interna vista por Reuters, están: “la industria petrolera, China, Irán, Israel, COVID-19, seguridad del hogar, seguros, datos de ubicación, religión, vehículos autónomos, telecomunicaciones y sistemas que recomiendan o personalizan contenido web “.
Está claro que muchos de estos temas son de hecho sensibles, aunque aconsejar a los investigadores que tengan cuidado al abordarlos parece superfluo considerando la existencia de juntas de ética, revisión por pares y otros controles ordinarios sobre la investigación. Un investigador que habló con Reuters advirtió que este tipo de interferencia de arriba hacia abajo de Google pronto podría convertirse en “un serio problema de censura”.
Esto se suma al tema fundamental de la investigación vital que se lleva a cabo bajo los auspicios de una empresa para la que puede o no ser de su interés publicar. Naturalmente, las grandes instituciones de investigación privadas han existido durante casi tanto tiempo como el esfuerzo científico organizado, pero empresas como Facebook, Google, Apple, Microsoft y otras ejercen una enorme influencia en campos como la inteligencia artificial y tienen buenas razones para evitar las críticas a las tecnologías lucrativas mientras gritan su utilidad. desde cada azotea.