Sólo el 49% de los encuestados de un estudio de EMA cree que sus centros de datos están preparados para gestionar la IA.
A medida que la inteligencia artificial (IA) transforma rápidamente las operaciones empresariales, las empresas se apresuran a actualizar su infraestructura de red para satisfacer las demandas sin precedentes de las cargas de trabajo de la IA. Enterprise Management Associates (EMA) encuestó recientemente a unos 269 profesionales de TI involucrados en la preparación de sus redes para aplicaciones y tráfico de IA. Casi tres cuartas partes (74%) tenía al menos algunas aplicaciones de IA en producción, con su estrategia corporativa de IA ya en marcha. Estas organizaciones que ya utilizan aplicaciones de IA en producción deben equipar sus redes para seguir el ritmo del crecimiento de la IA.
El porqué de esta encuesta hay que buscarlo en su deseo de EMA realizó de comprender mejor qué medidas están tomando los responsables de redes para equipar sus redes con el fin de tener éxito con las aplicaciones y el tráfico de IA. Su director de investigación de la práctica de gestión de redes, Shamus McGillicuddy, explicó durante un seminario web en el que se debatieron los resultados de la encuesta que “el objetivo era hacernos una idea de lo que están haciendo los primeros usuarios de IA que están desarrollando, formando y operando aplicaciones de IA para transformar sus negocios de alguna manera. ¿Qué están haciendo para preparar sus redes para soportar los tipos de tráfico que generan estas aplicaciones, ya que este es un tema muy comentado?”.
En su opinión, “la IA tiene requisitos muy estrictos en cuanto a latencia, y cosas como esa pueden crear mucha congestión. Hay muchos retos en torno a ella, desde el punto de vista del rendimiento, la disponibilidad y la seguridad, así como los requisitos de ancho de banda, que afectan a los requisitos de observabilidad, ya que es necesario poder gestionar todo eso de forma proactiva”.
La encuesta de EMA también revela que sólo el 49% de los encuestados cree que las redes de sus centros de datos están preparadas para el tráfico de IA, y el 48% admite que sus redes de área amplia están totalmente preparadas para el tráfico de IA. Entre los encuestados, el 42% ha creado centros de excelencia en IA para liderar la estrategia de IA de su organización. Los encuestados también indicaron que, para finales de 2025, contarán con varias tecnologías de IA en producción, entre las que se incluyen:
· Modelos de lenguaje grandes (LLM) propios: 58%.
· Aprendizaje automático: 51%.
· LLM de código abierto: 34%.
· IA basada en agentes: 32%.
· Generación aumentada por recuperación: 18%.
Las empresas también contemplarán cómo y dónde distribuir las cargas de trabajo de IA. Según la encuesta, las empresas informaron de que sus cargas de trabajo de formación en 2028 residirán en:
· Centros de datos privados: 28,3%.
· Nube pública tradicional: 36,1%.
· Especialistas en GPU como servicio: 19,1%.
· Computación periférica: 16,5%.
Los encuestados indicaron que sus cargas de trabajo de inferencia en 2028 residirán en:
· Centros de datos privados: 29,5%.
· Nube pública tradicional: 35,4%.
· Especialistas en GPU como servicio: 18,5%
· Computación periférica: 16,6%
Según McGillicuddy, “hay poca variación entre la formación y la inferencia, pero la tendencia general es que las cargas de trabajo se concentran un poco en la nube pública tradicional y, a continuación, los hiperescalares tienen una presencia significativa en los centros de datos privados”. A su juicio, “está surgiendo un interés por implementar cargas de trabajo de IA en el perímetro corporativo y en entornos de computación periférica, lo que les permite tener cargas de trabajo más cerca de los datos periféricos de la empresa. Esto les ayuda a combatir problemas de latencia y cosas por el estilo. La conclusión principal aquí es que la empresa típica va a tener que asegurarse de que su red de centros de datos está preparada para soportar cargas de trabajo de IA”
Retos de las redes de IA
La popularidad de la IA no elimina algunas de las preocupaciones empresariales y técnicas que aquélla plantea a los responsables de las empresas.
Según la encuesta de EMA, las preocupaciones empresariales incluyen el riesgo de seguridad (39%), el coste/presupuesto y la rápida evolución de la tecnología (33% ambas) y las carencias de habilidades del equipo de redes (29%). Los encuestados también indicaron varias preocupaciones en torno a los problemas de redes de centros de datos y de WAN.
Las preocupaciones relacionadas con las redes de centros de datos incluyen:
· Integración entre la red de IA y las redes heredadas: 43%.
· Demanda de ancho de banda: 41%.
· Coordinación de los flujos de tráfico de las cargas de trabajo de IA sincronizadas: 38%.
· Latencia: 36%.
Los problemas de WAN que compartieron los encuestados incluyen:
· Complejidad de la distribución de la carga de trabajo entre los sitios: 42%.
· Latencia entre las cargas de trabajo y los datos en el borde de la WAN: 39%.
· Complejidad de la priorización del tráfico: 36%.
· Congestión de la red: 33%.
“Preparar la red para la IA no es nada barato”, afirma McGillicuddy. Para éste, es posible que haya que invertir en muchos conmutadores nuevos y que sea necesario actualizar la WAN o cambiar de proveedor. Quizás haya que realizar algunos cambios en la infraestructura subyacente en función del tipo de conectividad que utilice el tráfico de IA”.
Los líderes empresariales tienen la intención de invertir en infraestructura para dar soporte a sus cargas de trabajo y estrategias de IA. Según EMA, las inversiones en infraestructura previstas incluyen Ethernet de alta velocidad (800 GbE) para el 75% de los encuestados, infraestructura hiperconvergente para el 56% de los encuestados y SmartNIC/DPU para el 45% de los profesionales de redes encuestados.
Los encuestados también reconocieron que tienen previsto adoptar protocolos de red para dar soporte a las cargas de trabajo de IA. Por ejemplo, el 67% espera adoptar Ethernet y el 33% invertir en InfiniBand. Casi dos tercios (64%) invertirán en RoCE, o RDMA sobre Ethernet convergente, que es un protocolo de red que permite el acceso directo a la memoria remota a través de redes Ethernet estándar. Mientras, el 42% dijo que planea adoptar NVMe over Fabrics, un protocolo que amplía el estándar Non-Volatile Memory Express para permitir a los hosts acceder a dispositivos de almacenamiento a través de una estructura de red, como Ethernet o Fibre Channel.
“Ethernet es sin duda dominante en estos centros de datos, pero hay mucho interés en InfiniBand y NVMe over fabric como enfoque alternativo para gestionar el tráfico de IA en sus centros de datos”, concluye.
