Los data centers de las empresas grandes ya tienen implementado, o tienen planeado implementar, algún tipo de aplicación de inteligencia artificial: diagnósticos médicos asistidos, detección de fraudes financieros en tiempo real, control de calidad industrial mediante análisis de video, etc. Según un estudio de Cisco, el 97% de las empresas consultadas quiere aplicar algún tipo de IA para no quedarse atrás respecto a su competencia. Toda esta tecnología se desarrolla y se utiliza sobre una infraestructura física, sobre dispositivos de red. Y de ahí surge una afirmación que van a escuchar cada vez más: la infraestructura de red para IA que tenemos hoy no está lista para la carga que impone esta tecnología. En esta clase revisaremos el panorama actual del ecosistema para dimensionar la magnitud de lo que está pasando, desde los servidores con GPUs hasta los cuellos de botella de energía e infraestructura física.

Servidores con GPUs y el problema de la red

En las infraestructuras tradicionales utilizamos CPUs que ejecutan tareas de manera serial. Para entrenar un modelo de IA de manera eficiente se necesitan operaciones en paralelo, y eso lo entregan los GPUs.

Por otro lado, el entrenamiento de los modelos avanzados no se hace en un servidor con algunos GPUs, se utilizan decenas o cientos de servidores que trabajan de manera conjunta, y eso exige redes capaces de mover cantidades inmensas de información entre los GPUs de los diferentes servidores y las bases de datos. En la clase veremos cuales son las limitantes de las redes actuales respecto a la carga que aplica la IA, además veremos cuales son las limitantes a la hora de adquirir servidores con GPUs.

Switches especializados y protocolos para IA

Cisco ya comercializa switches diseñados específicamente para cargas de inteligencia artificial y machine learning. En la clase ingresaremos la página de Cisco, compararemos los modelos actuales, e identificaremos qué diferencia a estos equipos de los switches tradicionales, incluyendo los anchos de banda de sus interfaces.

Por otro lado, existen protocolos específicos de Networking que se utilizan en el entrenamiento de la IA, junto a varios mecanismos de calidad de servicio específicos para este tráfico. Revisaremos cuales son, sin entrar al detalle interno de cada uno.

Energía e infraestructura física

Para finalizar la clase hablaremos sobre por qué el consumo eléctrico es hoy uno de los grandes problemas de las empresas de IA. No hay suficiente energía para alimentar los data centers que se van creando. Según Cisco, para 2030 el consumo energético de los centros de datos se va a duplicar, y la Agencia Internacional de Energía estima que, si no se toman medidas, una parte importante de lo planificado se va a retrasar por este motivo. En la clase veremos las comparaciones que ponen en perspectiva estas cifras de consumo. Si no hay energía, no hay IA.

Finalmente hablaremos de la infraestructura física, no existe suficiente infraestructura física lista para albergar los servidores y las redes que la IA necesita. La construcción de estos data centers toma mucho tiempo debido a varios factores que mencionaremos en la clase. También comentaremos cuántos centros de datos se planean construir solo en Estados Unidos, y la alternativa temporal que empresas como Meta están utilizando para poner sus GPUs en funcionamiento mientras sus data centers principales terminan de construirse.

Nadie sabe hacia dónde va a llegar la IA, pero se mueve a una velocidad a la que es difícil mantenerse al día. De esto y mucho más hablaremos en la clase.¡Accede a la clase completa acá!.