Gen AI Toolbox for Databases: Rationalisation du développement d'applications d'IA

Un nouveau serveur open source, la Gen AI Toolbox for Databases (Toolbox), a été lancé pour aider les développeurs d’applications à connecter des applications d’IA générative (gen AI) aux bases de données. Cette boîte à outils, créée en partenariat avec LangChain, vise à simplifier le processus de construction, de déploiement et de gestion d’outils d’IA générative sophistiqués qui doivent interroger des bases de données. La boîte à outils offre une connectivité aux bases de données autogérées PostgreSQL et MySQL, ainsi qu’aux bases de données gérées comme AlloyDB, Spanner et Cloud SQL pour Postgres, MySQL et SQL Server, et est ouverte aux contributions d’autres bases de données.Relever les défis de la gestion des outils Gen AILe développement d’agents d’IA qui interagissent avec diverses sources de données pose plusieurs défis aux développeurs. La Gen AI Toolbox for Databases répond à ces défis, notamment :

Gestion évolutive des outils : Les méthodes actuelles d’intégration des outils impliquent souvent un code étendu et répétitif et des modifications à plusieurs endroits. Cette complexité peut nuire à la cohérence, surtout lorsque les outils sont partagés entre plusieurs agents ou services.
Connexions complexes aux bases de données : Les bases de données nécessitent une configuration, une mise en commun des connexions et une mise en cache minutieuses pour une performance optimale à grande échelle.
Vulnérabilités de sécurité : La sécurisation de l’accès des modèles d’IA générative aux données sensibles nécessite une intégration complexe avec les services d’authentification, les bases de données et les applications, ce qui la rend sujette aux erreurs et risquée.
Mises à jour inflexibles des outils : L’ajout de nouveaux outils ou la mise à jour d’outils existants nécessite souvent une reconstruction et un redéploiement complets de l’application, ce qui peut entraîner des temps d’arrêt potentiels.
Observabilité limitée du flux de travail : Les solutions existantes manquent d’une prise en charge complète de la surveillance et du dépannage, ce qui rend difficile la compréhension des flux de travail de l’IA générative avec les bases de données.

Comment fonctionne la boîte à outilsLa Gen AI Toolbox for Databases agit comme un intermédiaire entre la couche d’orchestration d’une application et les sources de données ou les bases de données. Cette configuration aide les développeurs à créer des outils plus rapidement et assure un accès plus sécurisé aux données, améliorant ainsi la qualité des outils en production. La boîte à outils comporte deux parties principales : un serveur qui spécifie les outils que les applications doivent utiliser et un client qui interagit avec le serveur pour charger ces outils sur les cadres d’orchestration. Cette conception centralise le déploiement et les mises à jour des outils et intègre les meilleures pratiques de production afin d’améliorer la performance, la sécurité et de simplifier les déploiements.Principaux avantages de la boîte à outilsLa boîte à outils offre de nombreux avantages aux développeurs d’applications :

Développement simplifié : La boîte à outils réduit le code standard et consolide l’intégration, ce qui facilite le développement et le partage d’outils entre différents agents.
Performance et échelle intégrées : Elle possède une mise en commun des connexions intégrée et des connecteurs optimisés pour les bases de données populaires, ce qui améliore la gestion des connexions.
Déploiement sans temps d’arrêt : Une approche axée sur la configuration permet un déploiement transparent de nouveaux outils et de mises à jour sans interrompre le service, et prend en charge les déploiements progressifs.
Sécurité améliorée : Elle offre une prise en charge intégrée des fournisseurs d’authentification courants utilisant Oauth2 et ODIC, ce qui permet de contrôler l’accès des agents aux outils et aux données.
Observabilité de bout en bout : Elle s’intègre à OpenTelemetry, fournissant des informations à partir de la journalisation, des mesures et du traçage pour de meilleures opérations.

Compatibilité avec LangChain et LangGraphLa boîte à outils est compatible avec LangChain, un cadre populaire pour la construction d’applications LLM. Elle peut fonctionner avec LangGraph pour créer des flux de travail agentiques robustes utilisant des LLM comme Gemini sur Vertex AI. LangGraph permet de construire des applications avec état et multi-acteurs avec des LLM, et prend en charge les cycles, la gestion de l’état et la coordination, afin de permettre le développement d’agents d’IA complexes et dynamiques, qui s’intègrent tous de manière transparente à la boîte à outils.Appel d’outils dans les flux de travail des agentsL’appel d’outils est essentiel pour la construction d’agents.

La boîte à outils fonctionne avec LangGraph, qui fournit un cadre pour la gestion de la façon dont les outils sont appelés et de la façon dont leurs réponses sont intégrées, assurant ainsi l’exactitude et le contrôle. La boîte à outils gère ensuite l’exécution elle-même et renvoie les résultats. Ensemble, ces composants créent une solution puissante pour l’appel d’outils dans les flux de travail des agents. Selon Harrison Chase, PDG de LangChain, l’intégration étroite entre Toolbox et LangGraph permettra aux développeurs de construire des agents plus fiables qu’auparavant.Pour commencerLa Gen AI Toolbox for Databases vise à simplifier le développement et le déploiement d’outils d’IA générative en automatisant l’ensemble du cycle de vie.

Les ressources disponibles pour commencer comprennent un dépôt GitHub, une documentation et un guide de démarrage rapide qui explique comment exécuter un agent LangGraph avec la boîte à outils en utilisant Gemini sur Vertex AI. Les nouveaux utilisateurs peuvent également recevoir 300 $ de crédit gratuit pour essayer Google Cloud AI et ML.