Nutanix , especializada en infraestructura IT, ha ampliado su plataforma de infraestructura para IA con…
Nutanix , especializada en infraestructura IT, ha ampliado su plataforma de infraestructura para IA con una nueva oferta nativa en la nube: Nutanix Enterprise AI (NAI). Esta solución se puede implementar en cualquier plataforma Kubernetes, en el edge, en centros de datos o en servicios de nube pública como AWS EKS, Azure AKS y Google GKE. NAI ofrece un modelo operativo híbrido multicloud para cargas de trabajo de IA, lo que ayuda a las empresas a llevar tanto sus modelos como sus datos a una ubicación segura y de su elección. Además, permite aprovechar las ventajas de NVIDIA NIM para optimizar el rendimiento de los modelos y ayuda a las organizaciones a desplegar, ejecutar y escalar de forma segura puntos finales de inferencia para grandes modelos de lenguaje (LLM), facilitando así el despliegue de aplicaciones de IA generativa (GenAI) en cuestión de minutos, en lugar de en días o semanas.
La IA Generativa genera unas cargas de trabajo intrínsecamente híbridas, con nuevas aplicaciones que se crean a menudo en la nube pública, realizando el perfeccionamiento de los modelos con datos privados en entornos “on premise” y llevando a cabo la inferencia lo más cerca posible del negocio, es decir en el edge, en las propias instalaciones o en la nube pública. Este flujo de trabajo híbrido puede presentar importantes desafíos para las organizaciones debido a su complejidad, la privacidad de los datos, la seguridad o el coste.
Nutanix Enterprise AI proporciona un modelo operativo multicloud consistente y una forma sencilla de desplegar, escalar y ejecutar LLMs de forma segura con microservicios de inferencia optimizados para NVIDIA NIM y modelos de Hugging Face. Esto permite a los clientes poner en marcha una infraestructura GenAI con la operatividad y la seguridad que necesitan las aplicaciones críticas del negocio, ya sea en un entorno “on premise”, en AWS Elastic Kubernetes Service (EKS), Azure Managed Kubernetes Service (AKS) o Google Kubernetes Engine (GKE).
Además, Nutanix Enterprise AI ofrece un modelo de precios transparente y predecible, basado en los recursos de infraestructura, lo que es importante para aquellos clientes que buscan maximizar el ROI de sus inversiones en IA. Este modelo contrasta con otros más tradicionales de predicción o los que están basados en tokens.
Nutanix Enterprise AI es un componente de Nutanix GPT-in-a-Box 2.0. La solución GPT-in-a-Box también incluye Nutanix Cloud Infrastructure, Nutanix Kubernetes Platform y Nutanix Unified Storage, además de otros servicios para dar soporte a las necesidades de configuración y dimensionamiento de los clientes.
“Con Nutanix Enterprise AI estamos ayudando a nuestros clientes a ejecutar de forma sencilla y segura aplicaciones GenAI en sus propias instalaciones o en las nubes públicas. Nutanix Enterprise AI puede ejecutarse en cualquier plataforma Kubernetes y permite que las aplicaciones de IA se ejecuten en una ubicación segura y con un modelo de costes predecible”, afirma Thomas Cornely, SVP, Product Management de Nutanix.
Nutanix Enterprise AI puede desplegarse con la plataforma NVIDIA full-stack AI y ha sido validado para la plataforma de software NVIDIA AI Enterprise, que incluye NVIDIA NIM, un conjunto de microservicios diseñados para desplegar de forma segura modelos de IA de alto rendimiento. Nutanix-GPT-in-a-Box también es un sistema certificado por NVIDIA, lo que garantiza su fiabilidad y rendimiento.
«Las cargas de trabajo de IA generativa son híbridas por naturaleza, con tareas de entrenamiento, personalización e inferencia en nubes públicas, entornos “on premise” o en el edge«, afirma Justin Boitano, Vice President of enterprise AI en NVIDIA. “La integración de NVIDIA NIM en Nutanix Enterprise AI ofrece un modelo multicloud consistente y con APIs seguras, permitiendo a los clientes desplegar AI en diferentes entornos y con el rendimiento y la seguridad que necesitan para las aplicaciones críticas de negocio”.
Nutanix Enterprise AI puede ayudar a los clientes a:
- Dar respuesta a la escasez de habilidades en IA. Su facilidad de uso y sus funcionalidades integradas permiten a los administradores de TI convertirse también en administradores de IA. De esta forma se acelera el desarrollo de soluciones de inteligencia artificial gracias a los expertos en datos y los desarrolladores.
- Eliminar barreras para crear una plataforma preparada para la IA. Muchas organizaciones que buscan adoptar GenAI tienen que construir una plataforma adecuada para soportar estas nuevas cargas de trabajo, además de mantener una coherencia con su infraestructura local y las múltiples nubes públicas. Nutanix Enterprise AI da respuesta a este reto ofreciendo flujos de trabajo más sencillos para ayudar a los clientes a desplegar y probar puntos finales de inferencia LLM en cuestión de minutos. Esto pone también al alcance del cliente diferentes opciones de soporte para microservicios NVIDIA NIM, que se ejecutan en cualquier lugar y garantizan un rendimiento óptimo del modelo en entornos en la nube y “on premise”. También es compatible con Hugging Face y otros modelos estándar. Además, su integración nativa con Nutanix Kubernetes Platform permite aprovechar las ventajas de la plataforma en la nube Nutanix.
- Mitigar los problemas de privacidad y seguridad de los datos. Nutanix Enterprise AI permite a los clientes ejecutar los modelos y utilizar los datos en recursos informáticos que controla. Además, ofrece un panel intuitivo para la resolución de problemas, la observación y utilización de los recursos para LLMs y el control de accesos basados en roles (RBAC).
- Llevar la infraestructura empresarial a las cargas de trabajo GenAI. Los clientes que ejecutan Nutanix Cloud Platform en aplicaciones críticas para el negocio ahora pueden disfrutar también de la misma resistencia, operatividad y seguridad en las cargas de trabajo GenAI.
Entre los principales usos que puede tener Nutanix Enterprise AI destacan la mejora de la experiencia del cliente con soluciones GenAI gracias a funcionalidades de análisis de los comentarios y documentos de los clientes; la capacidad de acelerar la creación de código y contenido aprovechando los “copilotos” y el procesamiento inteligente de documentos; la posibilidad de aprovechar modelos de ajuste preciso; o la mejora de la seguridad, incluyendo la aplicación de los modelos de IA para la detección de fraudes, amenazas o creación automática de políticas y alertas.
Nutanix Enterprise AI y Nutanix GPT-in-a-Box 2.0 están ya disponibles para los clientes. Para más información, visite Nutanix.com/enterprise-ai