Red Hat adquirió Neural Magic, una empresa dedicada al desarrollo de software y algoritmos que aceleran las cargas de trabajo de inteligencia artificial generativa (Gen IA). La compañía informó que la experiencia en inferencia de Neural Magic y su compromiso con el open source fueron los motivos para determinar esta operación. Esos principios se alinean con la visión de Red Hat destinada a ofrecer IA de alto rendimiento para casos de uso específicos en la nube híbrida.
En Red Hat observan que la IA generativa se expande rápidamente, pero el tamaño y la complejidad de los modelos de lenguaje (LLM) hacen que su implementación sea costosa y complicada para la mayoría de las empresas. Por esas razones, busca hacer la IA generativa más accesible mediante la innovación de vLLM, un proyecto open source impulsado por UC Berkeley que permite un servicio eficiente de modelos IA.
Se trata de una tecnología que soporta múltiples tipos de modelos y hardware como AMD, AWS Neuron, TPU de Google, Intel Gaudi, GPU de NVIDIA y CPU x86. La combinación de la experiencia de Neural Magic en vLLM, junto con la tecnología en la nube de Red Hat, “permitirá a las organizaciones desarrollar estrategias de IA adaptadas a sus datos y necesidades”, indicó la empresa.
“Las cargas de trabajo de la IA deben poder ejecutarse donde los clientes quieran. Esto hace que las plataformas y herramientas abiertas, flexibles y estandarizadas sean una necesidad, ya que permiten que las organizaciones seleccionen de acuerdo a sus necesidades. Estamos entusiasmados de complementar nuestro portafolio de IA orientado a la nube híbrida con la innovación en IA de Neural Magic, que refuerza nuestro objetivo de ser no solo el ‘Red Hat’ del open source, sino también el ‘Red Hat’ de la IA,” dijo Matt Hicks, presidente y CEO, Red Hat.
