NeuralDB, recherche générative à grande échelle | Cercle Business

Utilisez vos capacités de calcul sur site et/ou dans le Cloud pour créer des applications IA générative (GenAI) de la formation au déploiement avec une mise au point perpétuelle. ThirdAI a conçu NeuralDB, une solution logicielle complète pour la recherche générative à grande échelle. Cette plateforme se base sur des modèles de langage de grande taille (LLM). Elle offre une alternative plus efficace et abordable aux solutions existantes. Partenaire exclusif de ThirdAI, Cercle Business a intégré NeuralDB dans son chatbot MonIA. Nous détaillons dans cet article les caractéristiques uniques de cette solution : utilisation de la puissance de calcul CPU disponible sur site ou dans le Cloud, confidentialité des données et affinement des LLM via RLHF.

Découvrez NeuralDB Enterprise de ThirdAI, un logiciel complet pour la génération augmentée de récupération (RAG) sur Rails. Il s'agit d'une plateforme complète à guichet unique. Elle permet la recherche et l'extraction génératives complètes dans de vastes collections de documents et de textes. Cette solution est conçue pour s'adapter facilement aux centres de données existants sur site ou aux processeurs dans le Cloud. Elle transforme votre infrastructure de calcul en une plateforme moderne de recherche générative. Plus besoin d'attendre du matériel spécialisé, la future pile GenAI est là.

Ecosystème RAG le plus avancé au monde à un coût 10 fois cher

NeuralDB n'est pas un écosystème RAG ordinaire ! C'est l'écosystème RAG le plus avancé et le plus complet. Il vous permet de pré-entraîner, d'affiner et de personnaliser à volonté les modèles LLM de recherche. Avec NeuralDB, vous n’avez pas besoin d'un modèle d'intégration ou d'une base de données vectorielle. En outre, NeuralDB permet d'affiner les LLM de recherche et de pré-entraîner le modèle LLM de recherche sur le texte inséré. 

Un modèle Machine Learning (ML) est un fichier qui a été entraîné pour reconnaître certains types de modèles. Très peu de modèles ML réussissent en production sans ajustement constant, et RAG n'est pas différent. Ce rapport fournit une étude de cas réelle pour illustrer pourquoi un ajustement comportemental constant est absolument nécessaire pour la réussite de la recherche pilotée par LLM dans la production en direct. Regardez cette vidéo, vous verrez à quel point il est facile de modifier les classements et la recherche en temps réel en quelques clics. Cette performance est possible grâce à la RLHF de NeuralDB et à l'édition de modèle. Vous pouvez consulter la documentation de l’API de Third AI pour d'autres exemples de déblocage du pré-entraînement, du réglage fin et de la RLHF pour votre écosystème RAG.

Logiciel complètement sécurisé : aucun mouvement de données nécessaire

La technologie BOLT de ThirdAI permet à la solution de fonctionner sur n'importe quelle infrastructure CPU. Elle peut s’installer sur site ou dans votre Cloud privé virtuel. Vous avez un contrôle total sur les données, les modèles et l'accès des utilisateurs aux modèles et aux données. Il n'est pas nécessaire de déplacer les données hors de votre infrastructure pour profiter de la puissance des LLM. NeuralDB assure la gestion des modèles, la recherche de documents et le contrôle de l'accès des utilisateurs. Vous pouvez former et déployer autant de modèles que vous le souhaitez à l'échelle. Il s'agit d'une infrastructure CPU uniquement, elle n’a pas de contraintes de mémoire ou de disponibilité.

Tarification simplifiée, 10 fois moins chère, et un niveau Freemium libéral

La solution logicielle NeuralDB s'exécute sur votre matériel pour garantir une confidentialité totale. ThirdAI/MoniA propose un abonnement logiciel simple : paiement par core et par mois, sans limite de jetons. Vous disposez d’une formation au modèle, de l’hébergement et de l’extraction ou de la génération d'intégration. Les 8 premiers cores sont gratuits. Ensuite, vous payez 2 cents par heure et par cœur. Vous pouvez utiliser le calculateur de ThirdAI/MoniA pour déterminer vos besoins et le coût estimé.

Interface utilisateur simple et sans code pour les utilisateurs métiers, avec RLHF intuitif

Les utilisateurs non techniques peuvent à présent former leurs propres LLM en utilisant les modèles NeuralDB pour télécharger/pointer leurs documents. Le logiciel rend automatiquement consultable tout ensemble de documents téléchargés. 

Les utilisateurs peuvent encore affiner ou personnaliser la recherche (et donc la génération) grâce aux notes attribuées et à l'apprentissage associatif, plus connu sous le nom de Reinforcement Learning with Human Feedback (RLHF ou apprentissage par renforcement à partir de la rétroaction humaine). Le RLHF est une méthode dans laquelle l’IA apprend à la fois par essais et erreurs et par la contribution humaine. 

Un modèle ou toute autre personnalisation est partageable et même disponible pour les développeurs via des API. Third AI propose un guide de l'utilisateur pour vous aider à utiliser le tableau de bord interactif, et MoniA rend facile l'intégration avec le moteur neuralDB. 

Pour les développeurs, accès à la recherche générative de pointe via une API Python simple

Vos développeurs peuvent désormais s'affranchir de l'intégration des modèles, des bases de données vectorielles, de la reformulation des requêtes, du reclassement, etc. NeuralDB Enterprise leur fournit une API python à bouton-poussoir. Les développeurs disposent ainsi d’une infrastructure RAG entièrement auto-réglée et autogérée, sans déplacement de données. La documentation de l'API de ThirdAI contient les informations complémentaires sur l'apprentissage associatif, le réglage fin supervisé et le pré-entraînement personnalisé.

Intégration facultative à Langchain et autres alternatives courantes 

NeuralDB s'intègre facilement à Langchain (framework open source conçu pour combiner de grands modèles de langage avec d’autres composants externes). Cet outil permet développer des applications alimentées par de grands modèles de langage (LLM). Il facilite l'intégration des modèles de langage dans les applications. 

NeuralDB vous permet ainsi de vous connecter à l'écosystème existant et de bénéficier toutes les fonctionnalités existantes.

NeuralDB Enterprise est une solution logicielle puissante et flexible qui permet de bénéficier de la puissance des LLM pour la recherche générative à grande échelle. Elle offre un ensemble complet de fonctionnalités et d'avantages. Partenaire exclusif de ThirdAI, nous avons intégré NeuralDB à notre propre solution MonIA. La recherche générative permet d’améliorer la précision des résultats en prenant en compte le contexte et les nuances de la langue. Notre agent conversationnel apporte ainsi une expérience utilisateur optimale, une meilleure réactivité de réponses, avec un cout compétitif.

Traduction adaptée de l'article original « NeuralDB Enterprise: Full-Stack LLM Driven Generative Search at Scale »