Nebius (NBIS.US) adquiere la startup israelí Inferize para potenciar su negocio de inferencia de IA; el monto de la transacción podría llegar hasta los 150 millones de dólares.

Según informó Gestión Financiera Inteligente APP, el proveedor de servicios de infraestructura en la nube para IA, Nebius (NBIS.US), anunció la adquisición de la startup israelí de inteligencia artificial Inferize, con el objetivo de fortalecer aún más su capacidad de infraestructura para inferencia de IA. Inferize se especializa en reducir los tiempos de inactividad de las GPU (unidades de procesamiento gráfico) y en acelerar el despliegue de grandes modelos de IA. Según estimaciones del medio tecnológico israelí Calcalist, el monto de la transacción oscila entre 100 y 150 millones de dólares, aunque Nebius no reveló los términos financieros concretos.

El núcleo de esta adquisición radica en mejorar la eficiencia del uso de los recursos GPU, especialmente ante la rápida variación en la demanda de inferencia de IA, permitiendo a Nebius reorganizar sus recursos computacionales con mayor rapidez y reducir el tiempo ocioso de costosos equipos de cómputo.

Apuntando a la eficiencia en la inferencia de IA y reducción del tiempo ocioso de las GPU

La tecnología central de Inferize está enfocada en abordar el problema de "arranque en frío" durante el despliegue de modelos de IA. El arranque en frío se refiere al proceso donde, antes de que un modelo de IA pueda empezar a procesar solicitudes de usuarios, es necesario cargar el modelo e inicializar los recursos pertinentes. Cuando se inicia una nueva instancia de inferencia, la GPU puede tener que esperar a que se complete la carga del modelo para comenzar a operar, resultando en un breve periodo de inactividad de los recursos.

Este problema se agrava ante un súbito incremento en la demanda de inferencia de IA. Cuando se disparan las solicitudes de los usuarios, los proveedores de servicios en la nube deben iniciar rápidamente más instancias de inferencia, pero si la carga del modelo lleva mucho tiempo, los recursos GPU recién añadidos no podrán utilizarse de inmediato, afectando la velocidad de respuesta del servicio y la eficiencia general de uso del cómputo.

La tecnología de Inferize busca acortar este periodo de espera, permitiendo que los nuevos recursos de inferencia entren en funcionamiento más rápido y que la ampliación de la capacidad de cómputo se adapte mejor a los cambios reales en la demanda.

Para Nebius, esto significa que la empresa podrá atender la demanda de sus clientes de manera más flexible, sin la necesidad de mantener una gran cantidad de GPU inactivas como recursos de respaldo, mejorando así la eficiencia de utilización de su infraestructura existente.

El CTO de Nebius, Danila Shtan, explicó que para operar eficientemente los servicios de inferencia de IA, no solo se requieren GPU más veloces y modelos optimizados, sino que todo el sistema debe responder rápidamente a los cambios en la demanda, incluyendo la provisión ágil de mayores recursos computacionales cuando los clientes lo necesiten. Destacó que Inferize no solo aporta tecnología para acelerar este proceso, sino también un equipo de ingenieros con amplia experiencia en sistemas GPU.

Nebius planea integrar a los ingenieros de Inferize a su equipo de negocios de inferencia, incorporando la tecnología desarrollada al Token Factory, su plataforma de inferencia de IA, para potenciar la capacidad de respuesta a la demanda de los clientes y que la infraestructura existente asuma más tareas computacionales reales.

Shtan agregó que las futuras contribuciones del equipo de Inferize no se limitarán únicamente a esta integración inicial de tecnología.

Reducir el costo de la capacidad de respaldo y mejorar la eficiencia operativa de la infraestructura de IA

El cofundador y CEO de Inferize, Guy Bortnikov, explicó que para responder a la demanda del cliente en cualquier momento, los proveedores de servicios en la nube suelen mantener cierta cantidad de recursos GPU de respaldo, lo que implica un costo adicional sólo por tener estos equipos a la espera. Señaló que el propósito de fundar Inferize fue precisamente para reducir ese costo, y que al integrarse a Nebius, la tecnología desarrollada podrá aplicarse directamente a plataformas de IA en la nube en operación real.

En el negocio de la inferencia de IA, la eficiencia en la asignación de recursos de cómputo incide directamente en los costos operativos de la infraestructura. Dado el alto costo de las GPU, si una empresa debe mantener grandes cantidades de capacidad inactiva por largos periodos para cubrir potenciales picos de demanda, esto puede afectar el rendimiento general de la inversión.

Acortando el tiempo de arranque de los modelos y acelerando el uso de los recursos computacionales, Nebius aspira a incrementar la flexibilidad de sus servicios y, a la vez, disminuir la dependencia de capacidad GPU de respaldo.

Cabe destacar que Bortnikov también cofundó previamente la empresa de software de optimización de infraestructura computacional Granulate, enfocada en mejorar la eficiencia del uso de recursos de cómputo, que fue adquirida por Intel (INTC.US) en 2022. Este antecedente refleja la experiencia del equipo de Inferize en el ámbito de la optimización de infraestructuras de cómputo.

Nebius refuerza su plataforma de inferencia IA con adquisiciones sucesivas de empresas tecnológicas

La adquisición de Inferize es una de las varias operaciones recientes de Nebius orientadas al campo de la inferencia y optimización de modelos de IA. Anteriormente, Nebius ya había comprado Eigen AI, en una operación valorada en 643 millones de dólares. Además, la empresa adquirió recientemente la tecnológica de IA Clarifai, sin revelar detalles del monto de la transacción.

Todas estas adquisiciones buscan potenciar la capacidad de Nebius en inferencia de IA y optimización de modelos, refinando aún más sus servicios de infraestructura de IA.

A diferencia de las inversiones en infraestructura principalmente orientadas a la potencia computacional para entrenamiento de modelos de IA, la inferencia de IA se centra más en la eficiencia operativa tras la puesta en marcha del modelo, incluyendo la velocidad de procesamiento de solicitudes, la asignación de recursos computacionales, el despliegue de modelos y el costo por unidad de cómputo.

A medida que Nebius integra tecnología relacionada, su estrategia de negocio está evolucionando de simplemente proveer recursos de cómputo GPU a ofrecer servicios y tecnología que mejoren la eficiencia operacional de los modelos de IA en uso real.

La compra de Inferize sumará nuevas capacidades técnicas a Nebius, particularmente en la asignación dinámica de recursos de cómputo y el despliegue rápido de modelos. Sin embargo, aún está por verse el verdadero impacto en reducción de costos y mejora de eficiencia que aportarán estas integraciones técnicas en la operación futura.