OpenAI, la empresa responsable del popular chatbot ChatGPT, ha lanzado un nuevo programa de recompensas por errores.
Ofrece hasta $ 20,000 para usuarios que reporten vulnerabilidades en sus sistemas de inteligencia artificial (IA). El programa ofrece recompensas basadas en la gravedad de los errores informados, a partir de $200 por vulnerabilidad.
Las empresas de tecnología suelen utilizar los programas de recompensas por errores para alentar a los programadores y a los piratas informáticos éticos a informar sobre errores en sus sistemas de software y para ayudar a las empresas a identificar y corregir las vulnerabilidades de seguridad antes de que puedan ser explotadas por los ciberdelincuentes.
OpenAI ha invitado a los investigadores a revisar las características específicas de ChatGPT y el marco para comunicar e intercambiar datos entre sus sistemas y aplicaciones de terceros para identificar y corregir posibles vulnerabilidades.
El programa, administrado por Bugcrowd, no acepta jailbreaks ni mensajes de texto que violen las reglas de ChatGPT.
Adicionalmente, no acepta reportes en ChatGPT que generen hechos falsos que puedan ser reportados a través de un formulario aparte. En cambio, el programa de recompensas por errores se centrará en las vulnerabilidades de privacidad y ciberseguridad del usuario en los dominios web y las API de OpenAI.
También permite a los usuarios informar errores relacionados con fugas de datos de OpenAI a través de claves de API expuestas o de terceros. Los participantes en el programa de recompensas por errores deben mantener la confidencialidad de los detalles de la vulnerabilidad hasta que el equipo de seguridad de OpenAI los apruebe para su divulgación pública.
La medida sigue a la reciente prohibición de ChatGPT en Italia por una supuesta violación de las reglas de privacidad, lo que ha llevado a los reguladores de otros países europeos a examinar los servicios de IA generativa.
Los líderes tecnológicos también firmaron recientemente una carta abierta pidiendo una pausa en el desarrollo de IA y una mejor regulación.
ChatGPT de OpenAI, impulsado por Microsoft Corp, ha sido una sensación desde su lanzamiento en noviembre de 2022, con muchos usuarios impresionados por sus rápidas respuestas a las preguntas. Sin embargo, las imprecisiones en las respuestas también han angustiado a algunos usuarios.
Al lanzar el programa de recompensas por errores, OpenAI espera identificar y corregir cualquier vulnerabilidad que pueda representar un riesgo para la privacidad del usuario o la integridad de sus sistemas, asegurando que ChatGPT sea una herramienta confiable y segura para millones de usuarios en todo el mundo.
Fuente de imagen seleccionada: SecurityWeek