Oracle intègre des fonctions d'IA générative à sa base de données HeatWave

"Les clients peuvent créer des applications d'IA générative sans expertise en IA, sans déplacement de données ou sans coût supplémentaire". Telle est la promesse d'Oracle avec HeatWave GenAI, une suite d'outils d'intelligence artificielle générative qui inclut des grands modèles de langage, l'intégration d'un dépôt de vecteurs automatisé dans la base de données, un traitement vectoriel évolutif et la possibilité d'avoir des conversations contextuelles en langage naturel basées sur des données non structurées.

HeatWave GenAI est disponible immédiatement dans toutes les régions d'Oracle Cloud, dans Oracle Cloud Infrastructure (OCI) Dedicated Region et dans d'autres cloud, sans frais supplémentaires pour les clients HeatWave, précise la firme. Dans le détail, les développeurs peuvent par exemple créer un dépôt de vecteurs pour leur contenu d'entreprise sans besoin que ce dernier soit structuré, à l'aide d'une seule commande SQL, grâce à des modèles d'intégration inclus.

"Les données ne quittent pas la base de données"

Les utilisateurs peuvent effectuer des recherches en langage naturel à l'aide de LLM internes ou externes. Les données ne quittent pas la base de données et il n'est pas nécessaire de provisionner de GPU, affirme Oracle. "Les LLM dans la base de données permettent aux clients de rechercher des données, de générer ou de synthétiser du contenu et d'effectuer une génération augmentée de récupération (RAG) avec HeatWave Vector Store".

Ils peuvent également combiner l'IA générative avec d'autres fonctionnalités HeatWave intégrées telles qu'AutoML pour créer des applications enrichies. "Par exemple, ils peuvent combiner HeatWave AutoML et HeatWave GenAI dans une application de détection des fraudes qui détecte non seulement les transactions suspectes, mais fournit également une explication compréhensible. Tout s'exécute dans la base de données, il n'est donc pas nécessaire de déplacer les données vers des bases de données vectorielles externes, ce qui renforce la sécurité des données", souligne Holger Mueller, vice-président et analyste principal de Constellation Research. Oracle précise que son service d'IA générative HeatWave est intégré au service OCI afin que les développeurs puissent accéder aux modèles de fondation pré-entraînés des principaux fournisseurs de LLM.

La question du coût prépondérante dans l'usage des LLM

A la clé, plusieurs avantages : la capacité à réduire la complexité des applications, augmenter les performances, améliorer la sécurité des données et réduire les coûts. Ce dernier point revient régulièrement sur le tapis : alors que la taille des modèles augmente considérablement, le coût des infrastructures nécessaires pour les faire tourner monte également en flèche. Un coût directement répercuté sur les utilisateurs finaux loin d'être viable à terme.

Comme le souligne Vijay Sundhar, CEO de SmarterD qui propose une plateforme intégrée de gestion de la sécurité, "la prise en charge des LLM et de la création de vecteurs dans la base de données entraîne une réduction significative de la complexité des applications, une latence d'inférence prévisible et, surtout, aucun coût supplémentaire pour nous quand il s'agit d'utiliser les LLM ou de créer des intégrations. Il s'agit vraiment d'une démocratisation de l'IA générative".

La question des coûts revient également sur la partie vectorisée. La création d'un dépôt de vecteurs pour des documents aux formats PDF, PPT, Word et HTML est jusqu'à 23 fois plus rapide avec HeatWave GenAI et représente un quart du coût d'utilisation de la base de connaissances pour Amazon Bedrock.

Un chat doté d'une mémoire à disposition des développeurs

En complément, les nouvelles fonctionnalités d'IA générative automatisées et intégrées incluent un module d'extension de code visuel pour MySQL Shell qui fournit une interface graphique pour HeatWave GenAI et permet aux développeurs de poser des questions en langage naturel ou en langage SQL. De plus, le navigateur Lakehouse intégré permet aux utilisateurs de sélectionner des fichiers dans le stockage d'objets et de créer un dépôt de vecteurs. Ils peuvent effectuer une recherche dans l'ensemble de la base de données ou limiter la recherche à un dossier.

L'outil tient compte de l'historique des questions posées, des citations des documents sources et de l'appel au LLM. Cela facilite une conversation contextuelle et permet aux utilisateurs de vérifier la source des réponses générées par le modèle d'IA générative.

Sélectionné pour vous

Google Cloud assis sur une mine d'or grâce à l'IA

Nvidia dévoile un Rubin CPX, un processeur taillé pour l'inférence des modèles

Microsoft intègre les modèles d'Anthropic à Office 365 Copilot