¿Cuál es la estrategia de inteligencia artificial generativa de Oracle?

Si bien Microsoft, AWS, Google Cloud e IBM ya han lanzado sus ofertas de inteligencia artificial (IA) generativa, hasta ahora, su rival Oracle ha estado en silencio sobre su propia estrategia. En lugar de lanzar algo a toda prisa, la empresa está preparando discretamente un enfoque a tres niveles. “Nuestro plan se asemeja a un pastel de tres capas y cada una se dirige a clientes empresariales según sus necesidades”, asegura Karan Batta, vicepresidente de Oracle Cloud Infraestructure (OCI).

De hecho, el primer nivel consiste en un servicio OCI Supercluster y está dirigido a empresas como Cohere o Hugging Face, que están trabajando en el desarrollo de grandes modelos lingüísticos (LLM, de sus siglas inglesas) para apoyar aún más a sus socios. Este incluye OCI Compute Bare Metal, que proporciona una memoria de acceso directo remoto de latencia ultrabaja a través de un clúster de Ethernet convergente para redes de baja latencia y una selección de opciones de almacenamiento informático de alto rendimiento. El servicio de supercomputación de IA, según Oracle, puede admitir miles de instancias OCI Compute Bare Metal con decenas de miles de GPU Nvidia A100 para procesar aplicaciones masivamente paralelas. El servicio también viene con los modelos básicos de Nvidia, como BioNeMo y Picasso, junto con marcos de entrenamiento y gobernanza de IA.

Los proveedores rivales de servicios en la nube, como Microsoft y Google, también se asociaron con Nvidia para aprovechar su DGX Cloud, un servicio basado en la tecnología que también impulsa ChatGPT. AWS, por otra parte, ofrece instancias P5 de Amazon Elastic Compute Cloud, con tecnología de GPU Nvidia H100 Tensor Core, para el entrenamiento de modelos de lenguaje grande y el desarrollo de aplicaciones de IA generativa.

El segundo nivel de Oracle se dirige a las empresas, incluidos sus clientes OCI, que desean desarrollar capacidades generativas de IA basadas en sus propios datos y para su propio consumo. Aunque este servicio aún no ha recibido un nombre formal, y en su mayor parte se encuentra en fase de planificación, data de junio, poco después de que la tecnológica comprar Cohere.

Sin embargo, la estructura o el concepto fundamental del servicio de IA generativa planificada parece ser muy similar a las ofertas rivales; ofrecer un paquete de herramientas, incluidos modelos básicos, herramientas de ingeniería rápida y marcos de gobierno, para que las empresas se capaciten en datos.

Con el fin de ayudar a las organizaciones a desarrollar sus propias aplicaciones o asistentes de IA generativa, el nuevo servicio utilizará conectores para aprovechar las fuentes de datos empresariales y crear un gráfico de conocimiento para ejecutar los datos a través de incrustaciones LLM para la comprensión semántica antes de incorporarlos a grandes modelos de lenguaje para generar IA. respuestas, dijo Batta. “Cuando un usuario empresarial consulta algo en lenguaje natural, el asistente generativo de IA o indicador ejecuta una búsqueda vectorial y los resultados de la búsqueda vectorial se almacenan dentro de un servidor o ubicación empresarial antes de realizar una llamada API al modelo de lenguaje grande para generar respuestas. 

¿Siguiendo otras ofertas de servicios de IA generativa?

Si bien AWS, Google Cloud, Microsoft e IBM han establecido cómo funcionarán sus servicios de inteligencia artificial, la mayoría de estos se encuentran actualmente en versión preliminar.

AWS ofrece modelos básicos a través de su servicio generativo basado en IA Amazon Bedrock , mientras que Microsoft ofrece API para modelos GPT a través de su servicio Azure OpenAI .

IBM y Google Cloud también ofrecen modelos fundamentales como parte de sus servicios Watsonx y Vertex AI , respectivamente. También ofrecen plataformas de código bajo en forma de Tuning Studio y Generative AI Studio, respectivamente, para ayudar a las empresas a ajustar los modelos.

Por el contrario, Oracle aún debe configurar cómo ayudará a las empresas a acceder a los datos y las herramientas de ajuste de modelos como parte de su servicio planificado.

Pero, según Batta, Oracle se está inclinando más hacia el "acceso programático" primero para usuarios técnicos, como ingenieros de datos y científicos, en lugar de proporcionar una experiencia de código bajo o sin código para usuarios no técnicos "desde el principio".

Esto significa que es más probable que el servicio de inteligencia artificial generativa de Oracle presente una herramienta rápida dentro de un editor de consultas SQL, dijo Batta, y agregó que la compañía podría cambiar los elementos del servicio antes de lanzarlo a finales de año.  

Oracle también planea extender el servicio a empresas que tienen sus datos y aplicaciones en sus propios centros de datos.

Asistencia de IA generativa en las aplicaciones de Fusion Cloud

Para el tercer nivel de su estrategia, Oracle también planea agregar capacidades de inteligencia artificial generativa en toda su cartera de aplicaciones Fusion Cloud y aplicaciones NetSuite al incorporar los modelos fundamentales de Cohere en las ofertas de SaaS. Los metadatos de estas aplicaciones se combinarán con modelos fundamentales para ofrecer asistentes generativos de inteligencia artificial dentro de estas aplicaciones para aumentar la productividad de los empleados, dijo Batta, comparando el asistente planificado con Clippy de Microsoft.

Los metadatos de estas aplicaciones ayudarán al modelo de lenguaje a identificar tendencias y comprender patrones en una oferta de SaaS en particular. El mes pasado, la compañía agregó capacidades similares de inteligencia artificial generativa a su suite Fusion Cloud Human Capital Management (HCM). Estas capacidades incluyen autoría asistida, sugerencias y resúmenes.

Si bien la autoría asistida ayudará a los gerentes de recursos humanos a escribir descripciones de puestos y otro contenido relacionado con recursos humanos mediante un aviso breve, se espera que la función de resumen ayude con tareas como el análisis del desempeño de los empleados, dijo la compañía. Se espera que la función de sugerencias, por otro lado, proporcione recomendaciones a través de varias tareas, como proporcionar preguntas de encuesta.  

También en el mercado de aplicaciones SaaS, Oracle se enfrenta a una dura competencia de empresas como AWS, Salesforce, ServiceNow y Microsoft. La semana pasada, AWS lanzó un nuevo servicio, denominado AppFabric, que tiene como objetivo proporcionar una experiencia de IA generativa unificada en múltiples aplicaciones SaaS.

Mientras tanto, Salesforce presentó una vista previa de su oferta de IA generativa integrada, denominada AI Cloud, en junio. Del mismo modo, ServiceNow también mejoró su asistente de inteligencia artificial generativa el mes pasado. También se espera que Oracle agregue capacidades de inteligencia artificial generativa a su cartera de bases de datos, según Batta.

Las plataformas de data warehouse y data lakehouse como Snowflake y Databricks también han introducido sus propias capacidades generativas de inteligencia artificial en forma de Snowpark Container Services y la caja de herramientas Lakehouse AI .