En un video promocional, Amazon.com dice que su cámara de seguridad para el hogar Cloud Cam proporciona "todo lo que necesita para monitorear su hogar, de día o de noche". De hecho, el dispositivo artificialmente inteligente requiere la ayuda de un escuadrón de empleados invisibles.
Decenas de trabajadores de Amazon con sede en India y Rumania revisan clips seleccionados capturados por Cloud Cam, según cinco personas que han trabajado en el programa o que tienen conocimiento directo del mismo. Esos fragmentos de video se usan para entrenar los algoritmos de IA para hacer un mejor trabajo distinguiendo entre una amenaza real (un invasor de viviendas) y una falsa alarma (el gato saltando en el sofá).
Un equipo de Amazon también transcribe y anota comandos grabados en los hogares de los clientes por el asistente digital Alexa de la compañía, informó Bloomberg en abril.
AI ha hecho posible hablar con su teléfono. Está ayudando a los inversores a predecir cambios en el sentimiento del mercado. Pero la tecnología está lejos de ser infalible. Cloud Cam envía alertas cuando es solo un papel crujiendo en una brisa. Siri de Apple y Alexa de Amazon ocasionalmente escuchan mal los comandos. Un día, los ingenieros pueden superar estas deficiencias, pero por ahora AI necesita asistencia humana. Montones.
En un momento, en un día típico, algunos auditores de Amazon anotaron alrededor de 150 grabaciones de video, que generalmente duraban de 20 a 30 segundos, según las personas, que solicitaron el anonimato para hablar sobre un programa interno.
Los clips enviados para su revisión provienen de probadores de empleados, dijo una portavoz de Amazon, así como de los propietarios de Cloud Cam que envían clips para solucionar problemas tales como notificaciones inexactas y calidad de video. "Nos tomamos en serio la privacidad y ponemos a los clientes de Cloud Cam en control de sus videoclips", dijo, y agregó que, a menos que los clips se envíen con fines de resolución de problemas, "solo los clientes pueden ver sus clips".
En ninguna parte de los términos y condiciones de usuario de Cloud Cam Amazon dice explícitamente a los clientes que los seres humanos están entrenando los algoritmos detrás de su software de detección de movimiento.
Y a pesar de la insistencia de Amazon de que todos los clips se proporcionen voluntariamente, según dos de las personas, los equipos han recogido la actividad que los propietarios de viviendas probablemente no quieran compartir, incluidos casos raros de personas que tienen relaciones sexuales.
Los clips que contienen contenido inapropiado se marcan como tales, luego se descartan para que no se usen accidentalmente para entrenar a la IA, dijeron las personas. La portavoz de Amazon dijo que tales clips se eliminan para mejorar la experiencia de los revisores humanos de la compañía, pero no dijo por qué aparecería una actividad inadecuada en los videos enviados voluntariamente.
Los trabajadores dijeron que Amazon ha impuesto una estricta seguridad en la operación de anotación Cloud Cam. En India, decenas de revisores trabajan en un piso restringido, donde los empleados no pueden usar sus teléfonos móviles, según dos de las personas. Pero eso no ha impedido que otros empleados pasen imágenes a miembros que no pertenecen al equipo, dijo otra persona.
La Cloud Cam debutó en 2017 y, junto con la línea de altavoces Echo con tecnología de Alexa, es uno de los varios dispositivos que Amazon espera le dará una ventaja en el emergente mercado de hogares inteligentes.
El dispositivo de $ 120 (aproximadamente Rs. 8,500) detecta y alerta a las personas sobre la actividad en sus hogares y les ofrece acceso gratuito a las imágenes durante 24 horas. Los usuarios que estén dispuestos a pagar entre $ 7 y $ 20 por una suscripción mensual pueden extender ese acceso hasta por un mes y recibir alertas personalizadas, por ejemplo, para un bebé que llora, por ejemplo, o una alarma de humo. Amazon no revela cuántas Cloud Cams vende, pero el dispositivo es solo una de las muchas cámaras de seguridad para el hogar en el mercado, desde el Nest de Google hasta el Ring propiedad de Amazon.
Si bien los algoritmos de inteligencia artificial están mejorando en la enseñanza, Amazon, como muchas empresas, implementa entrenadores humanos en sus negocios; ayudan a Alexa a comprender los comandos de voz, enseñan a las tiendas de conveniencia automatizadas Amazon Go de la compañía a distinguir a un comprador de otro e incluso están trabajando en un software de voz experimental diseñado para detectar emociones humanas.
El uso de humanos para entrenar la inteligencia artificial dentro de los productos de consumo es controvertido entre los defensores de la privacidad debido a las preocupaciones de que su uso pueda exponer información personal. La revelación de que un equipo de Amazon escucha los comandos de voz de Alexa y las revelaciones posteriores sobre programas de revisión similares en Google y Apple llamaron la atención de los reguladores y legisladores europeos y estadounidenses. El alboroto incluso estimuló a algunos propietarios de Echo a desconectar sus dispositivos.
En medio de la reacción, tanto Apple como Google detuvieron sus propios programas de revisión humana. Por su parte, Amazon comenzó a permitir que los usuarios de Alexa excluyeran sus grabaciones de voz de la revisión manual y cambiaron sus políticas de privacidad para incluir una explicación de que los humanos pueden escuchar sus grabaciones.
Los informes de los sitios web de tecnología de información e intercepción en el último año examinaron el papel humano en la capacitación del software detrás de las cámaras de seguridad construidas por Ring. Los sitios informaron que los empleados usaron clips que los clientes habían compartido a través de una aplicación Ring para entrenar algoritmos de visión por computadora y, en algunos casos, compartieron videos de clientes sin cifrar entre ellos.
Amazon no le dice a los clientes mucho sobre su proceso de solución de problemas para Cloud Cam. En sus términos y condiciones, la compañía se reserva el derecho de procesar imágenes, audio y video capturados por dispositivos para mejorar sus productos y servicios.
En una sesión de preguntas y respuestas sobre Cloud Cam en su sitio web, Amazon dice "solo usted o las personas con las que ha compartido la información de su cuenta pueden ver sus clips, a menos que elija enviarnos un clip directamente para la resolución de problemas. Los clientes también pueden elegir compartir clips a través de correo electrónico o redes sociales ".
Los equipos de Cloud Cam en India y Rumania no saben cómo la compañía selecciona los clips para ser anotados, según tres de las personas, pero dijeron que no había fallas técnicas obvias en el metraje que requerirían enviarlo para resolver problemas.
En un evento de la industria esta semana, David Limp, que dirige los equipos de hardware y Alexa de Amazon, reconoció que la compañía podría haber sido más comunicativa sobre el uso de personas para auditar la inteligencia artificial. "Si pudiera retroceder en el tiempo, eso sería lo que haría mejor", dijo. "Hubiera sido más transparente sobre por qué y cuándo estamos usando la anotación humana".
© 2019 Bloomberg LP
<! –
->