Esta startup fabrica un dongle de Xbox que vigilará el ciberacoso

Durante aproximadamente el año pasado, la compañía de Ron Curbs ha estado trabajando en un dispositivo de monitoreo que escucha el chat multijugador en línea e intenta ofrecer un aviso útil a los padres preocupados por el comportamiento en línea de sus hijos o su seguridad. Curbs entiende que está tratando de enhebrar una pequeña aguja: los padres no encontrarán útil su solución, llamada Kidas, si les hace un ping cada vez que alguien dice una mala palabra. Así que en este momento, hay algunos falsos positivos divertidos.

Hace un par de semanas, dice, un dispositivo Kidas en un hogar de prueba captó una conversación preocupante entre adolescentes. No hubo juramentos, pero se intercambiaron burlas y amenazas. Cuando esto sucede, un analista humano examina el incidente y determina si se debe notificar a los padres.

“El niño estaba jugando Matón,Curbs se rió. “Básicamente, nos alertaron sobre una situación que sucedió en el juego en sí”. El jugador estaba en el chat de la fiesta de Xbox Live como en el juego para un solo jugador, y Kidas confundió el diálogo del juego con una confrontación en línea.

Este es el tipo de fallas que seguramente obtendrá cuando esté construyendo algo tan ambicioso como la idea de Curbs: una solución que participa en mantener a los niños seguros y felices en línea, sin mover un dedo hacia ellos o violar su privacidad. Ha demostrado suficiente éxito, en una versión beta muy unida en menos de 100 hogares con Xbox, para atraer el interés y el apoyo de las grandes incubadoras de empresas emergentes, la última de las cuales es Lift Labs de Comcast NBCUniversal. (Divulgación: NBCUniversal es un inversor importante en Vox Media, propietaria de Polygon).

Cerca de dos manos reensamblar una pequeña carcasa alrededor de una placa de circuito

El hardware de Kidas son todas partes listas para usar, dijo Curbs.
Imagen: Kidas / Lift Labs

Kidas, con sede en Filadelfia, es una startup de 10 personas que asume una causa que los grandes jugadores han adoptado en medidas más pequeñas durante el año pasado. Electronic Arts, este verano, introdujo un nuevo conjunto de estándares tanto para él como para sus jugadores, destinado a crear comunidades en línea más saludables en sus enormes juegos multijugador. La nueva PlayStation 5 tiene una función que grabará el diálogo de chat, para ayudar a los moderadores a examinar las quejas de abuso verbal u otras violaciones del código de conducta. Y hace solo una semana, Microsoft, Sony y Nintendo firmaron conjuntamente un compromiso para hacer que los videojuegos sean más seguros, especialmente para sus jugadores más jóvenes.

La tecnología de Kidas es principalmente para un padre, específicamente para un padre que no siente que las declaraciones de esas empresas sean suficientes, ni apelar a los mejores ángeles de nuestra naturaleza en línea. Curbs tuvo la idea de Kidas después de su servicio en el ejército israelí, donde desarrolló soluciones de detección de amenazas para la Unidad Central de Inteligencia del país. Originalmente, Curbs le dijo a Polygon, Kidas tenía la intención de monitorear el tráfico de las redes sociales en general. Pero ese era un alcance demasiado grande para manejarlo.

“Decidimos pasar de las redes sociales a los juegos, [where] las conversaciones de voz son muy difíciles de monitorear ”, dijo Curbs. “Basándonos en la tecnología actual, sabíamos por nuestra experiencia pasada que tenemos las habilidades tecnológicas para hacer eso. Decidimos apuntar a algo que nadie más había hecho antes, y monitorear esas conversaciones de voz de una manera muy precisa y alertar a los padres sobre esos casos “.

“Cuando Ron entró por primera vez en nuestro programa, Kidas no se trataba solo de juegos”, dijo Danielle Cohn, vicepresidente de Lift Labs. “Era más un producto general. Lo que descubrió fue que había una necesidad real en los juegos. […] A veces, cuando creas un producto y tu startup, estás tratando de hacer demasiado a la vez. Creo que Ron está siendo inteligente con esto, donde está comenzando en los videojuegos. Y si puede profundizar mucho en los juegos, perfeccionarlo y probarlo allí, entonces puede tener un uso más amplio “.

Cuando se le preguntó qué impulsa a Kidas, Curbs mencionó conceptos como redes neuronales y aprendizaje automático. Obviamente, tendría que depender de un código muy sofisticado y en constante cambio para diferenciar entre los niños que hablan inocentemente basura y algo que definitivamente atraería a un padre a la habitación: amenazas de violencia, lenguaje degradante o solicitaciones de un depredador.

Texto en una página que contiene consejos para padres preocupados por la seguridad de sus hijos en línea.

Un aviso de rutina que puede recibir un padre de Kidas.
Imagen: Kidas / Lift Labs

Es importante destacar que no tiene la intención de que el dispositivo sea una niñera que se instala y se olvida en la sala de juegos. Kidas como producto asume que un padre involucrado está teniendo conversaciones con su hijo. Y el propio Kidas les está dando mucho más que un registro de chat de palabras clave que activan sus sensores. “No vamos a alertar a los padres cada vez que alguien llame a alguien más en un chat”, dijo Curbs. “Vamos a alertar a los padres sobre el acoso repetido y los casos en los que su hijo incluso es objeto de acoso escolar, y [if it’s] afectándolo psicológicamente, e incluso cambiando su estima por eso “.

Curbs no diría cuántos hogares hay en la versión beta en curso de Kidas (solo que tienen una larga lista de espera). Pero el tamaño no puede ser grande dada la profundidad de la interacción en la que Kidas confía para dar forma a sus alertas y avisos, de modo que los padres obtengan información realmente útil. Cohn, por parte de Lift Labs, ve a Kidas logrando ese objetivo ya. “Lo que más me ha impresionado es la retroalimentación que ha recibido de algunos de los padres que han probado esto”, dijo. “Todavía está en sus inicios, pero ciertamente es un espacio emocionante que también traerá algo de tranquilidad”.

Kidas en la actualidad tiene algunas limitaciones obvias: solo funciona con una Xbox One o Xbox Series X, para empezar. La solución de dongle, incluso si está construida con hardware estándar, también es necesaria porque Curbs y Kidas no tienen acceso al entorno cerrado de la red Xbox Live de Microsoft. Idealmente, dice, algún día lo harán, y Kidas será una pieza de software que se ejecutará en la propia consola.

Curbs dijo que es igualmente importante presentar a Kidas como un ayudante, no como algo cuya presencia les dice a los padres o al niño que los videojuegos son, a primera vista, algo malo o peligroso.

“Nuestro objetivo no es decir [parents], ‘Está bien, ya no debería jugar a Xbox, o ya no debería jugar a PlayStation’ ”, dijo Curbs, un fan que creció amando los videojuegos. “Nuestro objetivo es brindarles herramientas para que hablen sobre este tema con su hijo, hacerle entender. ‘¿Cuáles son las tácticas adecuadas para lidiar con esas personas?’ “

Leave a Reply

Your email address will not be published. Required fields are marked *