Snowflake compra la plataforma de observabilidad TruEra

La empresa de almacenamiento de datos en la nube, Snowflake, ha adquirido la plataforma de observabilidad TruEra, una startup especializada en proporcionar capacidades de gestión del ciclo de vida para el aprendizaje automático y modelos de lenguaje grandes (LLM, de sus siglas inglesas). El montante de la operación no ha sido revelado.

TruEra se basa en una oferta administrada que se puede implementar como software como servicio (SaaS) o en un SaaS híbrido a través de una nube privada virtual y una pública. También ofrece una opción de autoservicio, TruLens, que probablemente no formará parte del acuerdo con Snowflake.

Algunas de las capacidades clave de la plataforma ncluyen explicabilidad de modelos, análisis de calidad de modelos, flujos de trabajo de revisión y gobernanza para modelos, comparaciones y selección de modelos y monitoreo continuo para informar incidentes.

Estas ofertas, según Snowflake, ayudan a evaluar la calidad de las entradas, salidas y resultados intermedios de las aplicaciones basadas en LLM, incluidas las alucinaciones, los sesgos o la toxicidad. "Esto acelera la evaluación de experimentos para una amplia variedad de casos de uso, incluida la respuesta a preguntas, el resumen, las aplicaciones basadas en generación aumentada de recuperación (aplicaciones RAG) y las aplicaciones basadas en agentes", explicó la compañía.

Además, la plataforma también tiene capacidades para proporcionar información detallada y procesable para mejorar el rendimiento y la precisión del modelo de aprendizaje automático al revelar anomalías en las métricas del modelo y proporcionar un análisis de causa raíz específico para una depuración rápida.

Snowflake comenzó a cambiar su enfoque hacia la IA generativa el año pasado cuando la compañía presentó Snowpark Container Services en junio, seguido de la vista previa de Cortex en noviembre. Snowpark Container Services, cuyo objetivo era permitir a las empresas incorporar cargas de trabajo más diversas, incluidos LLM, a la plataforma Data Cloud, actúa como eje, conectando los datos empresariales almacenados en Snowflake con LLM, interfaces de capacitación de modelos, marcos de gobernanza de modelos y servicios de terceros. aplicaciones de aumento de datos, modelos de aprendizaje automático,  API y el marco de aplicaciones nativas de Snowflake.

Por otro lado, Cortex es un servicio totalmente administrado (sin servidor) dentro de la nube de datos que proporciona a las empresas los componentes básicos para utilizar LLM e IA sin requerir ninguna experiencia en la gestión de infraestructura compleja basada en GPU. A principios de este año, Snowflake presentó una vista previa de su modelo de lenguaje grande (LLM) de código abierto, Arctic, para enfrentarse a Llama 3 de Meta, la familia de modelos de Mistral, Grok-1 de xAI y DBRX de Databricks. Arctic, al que se puede acceder a través de Cortex, está dirigido a tareas empresariales como generación de SQL, generación de código y seguimiento de instrucciones.

La transacción con TruEra hará que al menos 37 empleados de la compañía se unan a Snowflake, incluidos sus tres cofundadores: el presidente y científico jefe Anupam Datta, el director de tecnología Shayak Sen y el director ejecutivo Will Uppington.

TruEra, que ha recaudado aproximadamente 43 millones de dólares en datos y está respaldada por Menlo Ventures, Greylock Partners, Wing Venture Captial, Harpoon Ventures, HPE y Conversion Captial, entre otros, comenzó sus operaciones con base en seis años de investigación realizada por Datta y Sen durante su titularidad en la Universidad Carnegie Mellon. La empresa tiene cuatro oficinas en India, Singapur, Reino Unido y Estados Unidos.

Por otra parte, Snowflake estaba intentando adquirir Reka AI para incorporar más LLM a sus servicios y ofertas. Sin embargo, a principios de esta semana, el acuerdo fracasó, según Bloomberg. Snowflake había ofrecido aproximadamente mil millones de dólares para comprar Reka AI. La rama de riesgo del proveedor de software de almacenamiento de datos también es inversor en la startup que ofrece un LLM, fundada por investigadores de Meta y Google.