No es que los modelos a gran escala nunca puedan llegar a un entendimiento de sentido común. Esa sigue siendo una pregunta abierta. Pero hay otras vías de investigación que merecen una mayor inversión. Algunos expertos han apostado por la IA neurosimbólica, que combina el aprendizaje profundo con sistemas de conocimiento simbólico. Otros están experimentando con técnicas más probabilísticas que utilizan muchos menos datos, inspirados por la capacidad de un niño humano para aprender de muy pocos ejemplos.
En 2021, espero que el campo realinee sus incentivos para priorizar la comprensión sobre la predicción. Esto no solo podría conducir a sistemas técnicamente más robustos, sino que las mejoras también tendrían importantes implicaciones sociales. La susceptibilidad de los actuales sistemas de aprendizaje profundo a ser engañados, por ejemplo, socava la seguridad de los vehículos autónomos y plantea posibilidades peligrosas para las armas autónomas. La incapacidad de los sistemas para distinguir entre correlación y causalidad también está en la raíz de la discriminación algorítmica.
Empoderar a los investigadores marginados
Si los algoritmos codifican los valores y perspectivas de sus creadores, una amplia muestra representativa de la humanidad debería estar presente en la mesa cuando se desarrollen. No vi mejor evidencia de esto que en diciembre de 2019, cuando asistí a NeurIPS. Ese año, con un número récord de mujeres y oradores y asistentes de minorías, pude sentir que el tenor de los procedimientos cambiaba de manera tangible. Hubo más conversaciones que nunca sobre la influencia de la IA en la sociedad.
En ese momento alabé a la comunidad por su progreso. Pero el trato de Google a Gebru, una de las pocas mujeres negras prominentes en la industria, mostró lo lejos que queda todavía por hacer. La diversidad en números no tiene sentido si esas personas no están capacitadas para llevar su experiencia vivida a su trabajo. Sin embargo, soy optimista de que la marea está cambiando. El punto de inflamación marcado por el despido de Gebru se convirtió en un momento crítico de reflexión para la industria. Espero que este impulso lleve a un cambio sistémico duradero.
Centrar las perspectivas de las comunidades afectadas
También hay otro grupo para traer a la mesa. Una de las tendencias más emocionantes del año pasado fue la aparición de aprendizaje automático participativo. Es una provocación reinventar el proceso de desarrollo de la inteligencia artificial para incluir a aquellos que finalmente quedan sujetos a los algoritmos.
En julio, el primer taller de conferencia dedicado a este enfoque recopiló una amplia gama de ideas sobre cómo podría verse. Las sugerencias incluyeron nuevos procedimientos de gobernanza para solicitar comentarios de la comunidad; nuevos métodos de auditoría modelo para informar e involucrar al público; y propuso rediseños de los sistemas de inteligencia artificial para brindar a los usuarios un mayor control de su configuración.
Mi esperanza para 2021 es ver más de estas ideas exploradas y adoptadas en serio. Facebook ya está comenzando: si sigue adelante y permite que su junta de supervisión externa realice cambios vinculantes en las políticas de moderación de contenido de la plataforma, la estructura de gobierno podría convertirse en un mecanismo de retroalimentación digno de emulación.
Codificar las barandillas en la regulación
Hasta ahora, los esfuerzos de base han llevado al movimiento a mitigar los daños algorítmicos y responsabilizar a los gigantes tecnológicos. Pero dependerá de los reguladores nacionales e internacionales establecer barreras de protección más permanentes. La buena noticia es que los legisladores de todo el mundo han estado observando y están redactando una legislación. En los EE. UU., Los miembros del Congreso ya han presentado proyectos de ley para abordar el reconocimiento facial, el sesgo de la IA y las falsificaciones profundas. Varios de ellos también enviaron una carta a Google en diciembre expresando su intención de continuar con esta regulación.
Entonces, mi última esperanza para el 2021 es que veamos aprobar algunos de estos proyectos de ley. Es hora de que codifiquemos lo que hemos aprendido en los últimos años y nos alejemos de la ficción de la autorregulación.