Una demanda por lesiones personales presentada el lunes en un tribunal federal de California alega que la empresa matriz de Instagram, Meta, diseñó deliberadamente productos para adictos a los usuarios jóvenes, lo que llevó a una niña de 11 años a un camino de daños físicos y psicológicos que duró años.
El caso, presentado por el Centro de Leyes para las Víctimas de las Redes Sociales en nombre de Alexis Spence, que ahora tiene 19 años, afirma que Instagram “consistente y conscientemente” apuntó su producto a los niños pequeños y, al mismo tiempo, ignoró las advertencias internas sobre el empeoramiento de los efectos en la salud mental de sus usuarios.
“Como resultado de la adicción de Alexis a Instagram, tuvo que someterse a asesoramiento profesional, programas para pacientes hospitalizados, programas para pacientes ambulatorios, participar en programas para trastornos alimentarios y probablemente necesitará ayuda en forma de un perro de servicio para el resto de su vida. vida, así como atención médica continua para garantizar que no se desvíe”, dijeron los abogados.
su traje depende y cita directamente los papeles de facebook, el tesoro de archivos internos filtrados el otoño pasado por la denunciante de Facebook Frances Haugen. Entre ellos se encontraban informes y presentaciones confidenciales que retrataban a Instagram como una plaga para la salud mental de los adolescentes. La LeyLa demanda es una de las primeras en utilizar los documentos contra Meta en la práctica. tribunal más bien que el tribunal de la opinión pública.
La demanda también es la última de una ola de nuevos casos en todo el país que esperan encontrar una forma de eludir el escudo de responsabilidad extendido a los propietarios y operadores de sitios web bajo Sección 230 de la Ley de Decencia en las Comunicaciones
“Hay un esfuerzo concertado en todo el país para reformular las demandas contra los servicios de Internet como un ataque a sus herramientas de software, no como un ataque al contenido que se publica con ellas”, dijo Eric Goldman, profesor de derecho en la Universidad de Santa Clara, a Gizmodo por teléfono.
Meta se negó a comentar sobre el caso Spence, citando un litigio activo, pero un portavoz señaló a Gizmodo una serie de funciones que, según dijeron, están diseñadas para ayudar a las personas que luchan con problemas de imagen corporal.
gasto se unió a Instagram en quinto grado, dos años demasiado joven para unirse a la aplicación por debajo del requisito de edad mínima, según la demanda. La denuncia alega que su adicción a Instagram fue el resultado de los esfuerzos deliberados de la empresa para diseñar un producto que es inherentemente adictivo y tiene características de soporte sin dientes
El Congreso ya tomado nota de la demanda. El representante Tom Malinowski, demócrata de Nueva Jersey y coautor de un legislación el año pasado, que se centró en los algoritmos de las redes sociales que no evitan la interferencia con los derechos civiles, dijo que el caso Spence era solo el último en exhibir los “daños en el mundo real causados por algoritmos sofisticados diseñados para mantenernos pegados a nuestras pantallas: trastornos alimentarios, suicidios, ataques masivos”. fusilamientos, insurrecciones”.
Poco después de unirse, según la denuncia, el algoritmo de Instagram llevó rápidamente a la joven Spence a un flujo interminable de contenido problemático; una avalancha de modelos con bajo peso y enlaces a sitios web de dietas extremas que promueven “anorexia, imagen corporal negativa y autolesiones”. Esto finalmente estimuló un trastorno alimentario, dijeron los abogados, años anteriores de ansiedad, depresión e ideación suicida. La hospitalización era inevitablemente necesaria.
los Papeles de Facebook, que Gizmodo comenzó a hacerse público por primera vez en abrilreveló al mundo que Meta sabía cómo se sentían algunos de sus usuarios sobre el uso de las redes sociales: mal. Una encuesta filtrada realizada por la empresa. descubrió que muchos adolescentes culpaban directamente a Instagram por la ansiedad y los episodios depresivos. Estos autodiagnósticos se informaron “espontáneamente”, dijo la compañía, y fueron “consistentes en todos los grupos”.
“El treinta y dos por ciento de las adolescentes dijeron que cuando se sentían mal con sus cuerpos, Instagram las hacía sentir peor”, decía una presentación filtrada de marzo de 2020.
Facebook respondió a la filtración en ese momento minimizando los efectos negativos, que describió como “bastante pequeños” en escala. Los ejecutivos señalaron que la investigación filtrada no se consideraba científica según ningún estándar académico. La mayor parte fue realizada por expertos en marketing, y los efectos nocivos se basaron en análisis retrospectivos subjetivos informados por los propios usuarios. En una audiencia en el Congreso el año pasado, el CEO de Meta, Mark Zuckerberg, señaló investigaciones contrarias que vinculan el uso de las redes sociales con beneficios positivos para la salud mental. Encuestas similares realizadas por el Pew Research Center en 2018, por ejemplo, encontraron que los adolescentes tenían más probabilidades de asociar las aplicaciones de redes sociales con emociones positivas
Al mismo tiempo, los documentos mostraron que Meta, conocida simplemente como Facebook en ese momento, se había esforzado por congraciar su marca con usuarios que eran demasiado jóvenes para usar sus servicios. La investigación de mercado, nunca pensada para el consumo público, retrató con frialdad a los niños de tan solo 10 años como un recurso “valioso” y “sin explotar” fundamental para el crecimiento de la empresa.
La inmunidad concedida en virtud del artículo 230 no es absoluta, como reciente de un tribunal federal espectáculos gobernantes. Hace aproximadamente un año, el Noveno Circuito determinó que había suficiente distinción entre los reclamos sobre el contenido publicado por un sitio web, que estaría cubierto por la Sección 230, y las acusaciones de negligencia relacionadas con el software subyacente del diseño de una red social en particular. El caso de Spence contra Instagram parece ser otro intento de aprovechar esos esfuerzos.
Goldman, un partidario acérrimo de la Sección 230 que cree que los esfuerzos para enmendarla tienen en gran medida motivaciones políticas, también criticó el fallo del Noveno Circuito.
Ese caso, que sigue sin resolverse, se centra en la función de “filtro de velocidad” eliminada por Snapchat el año pasado. El filtro fue diseñado para permitir a los usuarios capturar qué tan rápido se estaban moviendo, pero supuestamente llevó a algunos usuarios a perseguir el derecho a fanfarronear conduciendo imprudentemente a velocidades excesivas. Varias muertes entre 2015 y 2017 se han atribuido al filtro, incluidos los de tres jóvenes en Wisconsin que fatalmente se estrelló contra un árbol. La aplicación registró su automóvil moviéndose a 123 millas por hora poco antes del accidente.
El Noveno Circuito sostuvo que la Sección 230 no era una defensa aplicable siempre que los demandantes siguieran enfocados en el diseño del software de Snapchat y no en el contenido compartido en su plataforma. Del mismo modo, los abogados de Spence parecen ansiosos por mantener el enfoque en la naturaleza adictiva del producto de Instagram en lugar del contenido que ella pudo haber encontrado.
“Nuevamente, está hablando del algoritmo y la forma en que se puede enmarcar la queja es realmente más sobre el servicio en general, que todo sobre el servicio fue diseñado para fomentar el uso y esa cantidad de uso fomentado es lo que causó el problema”. dijo Goldman. “No significa que ganarán, pero es posible que hayan encontrado una manera de sortear la Sección 230”.
Es difícil separar un producto que promueve contenido del contenido que promueve, dijo Goldman, incluso si los tribunales encuentran una distinción legalmente significativa. “Entiendo que a nivel estructural grande, sí, no están tratando de afirmar que están demandando por contenido de terceros, están demandando en base al diseño del software”, dijo. “Pero para mí, esos colapsan juntos en todos los sentidos materiales”.
malinowski factura, la Ley de protección de los estadounidenses contra los algoritmos peligrososfue uno de los numerosos el año pasado destinados a enmendar la Sección 230. Ya sea debido a la gran complejidad del problema, las posibles ramificaciones para la economía global de Internet o los desacuerdos partidistas sobre el enfoque, ninguno de los proyectos de ley despegó.
“Las grandes plataformas de redes sociales no deberían disfrutar de una inmunidad legal general por el contenido dañino que amplifican, promueven o recomiendan activamente a sus usuarios”, dijo.
Cuando los usuarios encuentran contenido en Instagram relacionado con autolesiones o trastornos alimentarios, Se supone que la aplicación marca “imágenes potencialmente desencadenantes” y las borra, al mismo tiempo que dirige a los usuarios a los recursos de la línea directa que ofrecen grupos como la Asociación Nacional de Trastornos de la Alimentación.
También se implementaron características relevantes adicionales, dijo Meta, que incluyen verificación de edad, DM restringidos entre adultos y adolescentes, y configuraciones de privacidad predeterminadas para usuarios menores de 16 años.
Si usted o alguien que conoce tiene pensamientos suicidas o autolesiones, llame al 911 o a la Línea Directa Nacional de Prevención del Suicidio al 1-800-273-8255. Las víctimas del acoso cibernético en las redes sociales pueden comunicarse con SMVLC al www.socialmediavictims.org o llamando al 1-800-834-6994.