ASUS / Difusión estable
Asustek Computer de Taiwán (conocido popularmente como “Asus”) planea introducir un servidor de inteligencia artificial comercial de alquiler que operará en el sitio para abordar las preocupaciones de seguridad y los problemas de control de datos de los sistemas de inteligencia artificial basados en la nube, Bloomberg informes
Asus espera ofrecer el servicio por alrededor de $ 6,000 por mes, según la entrevista de Bloomberg con Asus Cloud y el presidente de TWS, Peter Wu. El servidor de mayor potencia, basado en un Nvidia DGX La plataforma AI costará alrededor de $ 10,000 por mes. Los servidores estarán alimentados por GPU A100 de Nvidia y serán propiedad y estarán operados por Asus. La compañía espera brindar el servicio a entre 30 y 50 clientes empresariales en Taiwán al principio, y luego expandirse internacionalmente más adelante en 2023.
“Nvidia es un socio nuestro para acelerar la adopción empresarial de esta tecnología”, dijo Wu a Bloomberg. “Antes de ChatGPT, las empresas no sabían por qué necesitaban tanta potencia informática”.
De acuerdo a a Asus, el “Modelo de la Fundación Formosa” que se ejecutará en el dispositivo AFS es un modelo de lenguaje grande que genera texto con semántica china tradicional. Fue desarrollado por TWS, una subsidiaria de Asustek. Al igual que ChatGPT, ofrecerá capacidades de codificación y generación de texto impulsadas por IA.
A medida que crece el interés en los servicios de IA generativa, también aumentan las preocupaciones sobre la sensibilidad de los datos. Muchos de los principales servicios de IA generativa se operan actualmente a través de centros de datos en línea, lo que podría exponer información confidencial. En particular, Samsung prohibido sus empleados de usar ChatGPT de OpenAI después de descubrir que los trabajadores habían subido un código sensible a la plataforma. Apple también prohibió recientemente a sus empleados el uso de herramientas externas de inteligencia artificial que podrían filtrar datos a los competidores.
Para abordar las preocupaciones de privacidad entre las empresas, Microsoft anunció planes en mayo para lanzar una versión aislada y centrada en la privacidad de ChatGPT que apuntaría a grandes organizaciones (como bancos y hospitales) con mayores preocupaciones sobre fugas de datos y cumplimiento normativo, pero los servidores aún estar ubicado en los centros de datos de Microsoft. Por el contrario, el hardware AFS Appliance se instalará directamente en las propias instalaciones del cliente.
A pesar de la creciente demanda de chips de entrenamiento de IA, Bloomberg informa que empresas como Asus esperan asegurar una parte del mercado al ofrecer “sistemas de IA holísticos” que ofrecen una solución de IA completa en un paquete de servicios. Asus afirma que su asociación existente con Nvidia garantizará que no haya escasez de suministro de chips de Nvidia a medida que se implemente el servicio AFS Appliance.