Citrix presenta NetScaler AI Gateway para llevar la gobernanza empresarial a la entrega de aplicaciones de IA.
Como ya sabemos la gran mayoría de empresas están implementando IA con lo que ello representa, tanto a nivel laboral como de control de soluciones, clientes y generación automática de procesos que acostumbran a ser repetitivos en muchas ocasiones. En este caso Citrix nos sorprende con NetScaler AI Gateway.
Las cargas de trabajo de IA introducen nuevos patrones de tráfico, modelos de costos y desafíos de gobernanza que la infraestructura tradicional no está diseñada para gestionar. NetScaler AI Gateway reemplaza un conjunto fragmentado de herramientas puntuales y elimina la necesidad de crear políticas separadas para cada aplicación de IA, proporcionando una capa de control unificada integrada en la plataforma en la que las empresas ya confían para la entrega de aplicaciones críticas. Este enfoque permite a las organizaciones extender las políticas operativas y los controles de infraestructura existentes a los sistemas de IA sin crear silos adicionales.
«A medida que las empresas hacen la transición de la IA de los entornos piloto a los de producción, los desafíos cambian: de la selección de modelos y la experimentación a la gobernanza, la visibilidad y el control», afirmó Paul Nicholson, vicepresidente de investigación de redes de nube y centros de datos en IDC. «Las organizaciones necesitan un control centralizado y basado en políticas para garantizar la visibilidad, la repetibilidad y la rendición de cuentas de los servicios de IA a gran escala. Soluciones como NetScaler AI Gateway pueden ayudar a las organizaciones a abordar estos requisitos empresariales en constante evolución».
Cómo funciona NetScaler AI Gateway
Las principales funcionalidades de NetScaler AI Gateway incluyen:
- Limitación de velocidad basada en tokens para controlar los costos de uso de LLM y garantizar un consumo equitativo entre equipos y aplicaciones.
- Balanceo de carga basado en la latencia de tokens que optimiza el rendimiento, el costo y la confiabilidad mediante el enrutamiento inteligente de las solicitudes de inferencia a través de múltiples backends de LLM.
- Enrutamiento de desbordamiento que redirige automáticamente las solicitudes a un modelo secundario cuando se agotan las cuotas de tokens, lo que garantiza la continuidad en lugar de la falla de la solicitud.
- Gestión de avisos y anonimización de LLM que garantizan un comportamiento de gobernanza coherente al interceptar y modificar los avisos en tránsito y proteger la información confidencial.
- Integración con las mejores plataformas de seguridad de IA, como Enkrypt AI LLM Firewall para la detección de amenazas de LLM del Open Worldwide Application Security Project (OWASP) y Protecto para la detección y el enmascaramiento contextual de datos confidenciales, como información de identificación personal.
- Protecciones de firewall de aplicaciones web para LLM y servidores del Protocolo de Contexto de Modelo (MCP), disponibles en las últimas actualizaciones de firmas de NetScaler.
- Observabilidad específica de IA con métricas y registros que cubren el uso de tokens, la latencia y las violaciones de cuota, exportables a plataformas de análisis para visibilidad y resolución de problemas.
NetScaler AI Gateway se basa en el enfoque integral de Citrix para la IA, que prioriza la seguridad desde el diseño, e incluye integraciones con tecnologías de seguridad de IA y firewall LLM diseñadas para proteger las implementaciones de IA empresariales. Como complemento de NetScaler AI Gateway, el servidor MCP de NetScaler® Console conecta de forma segura a los agentes de IA con la inteligencia operativa mediante una interfaz MCP estandarizada, extendiendo la misma gobernanza y visibilidad a los flujos de trabajo de IA basados en agentes.
Poco a poco vamos a ir viendo cambios de este tipo en las distintas soluciones de no solo Citrix, si no, de otros muchos fabricantes.
Veremos en que afectará en nuestro día a día, y esperemos que sea mejor que el Chat Boot de Soporte de Citrix que actualmente tiene disponible para la apertura de casos de soporte.
