Now, You can order Aiven's DBaaS directly on OVHcloud Public Cloud aiven.io/blog/ovhcloud-is-no…

Chatbot: Ask me anything about OVHcloud ! chat.di2amp.ovh Ces dernières semaines, je me suis amusé à "vibe-coder" un Chatbot qui répond aux questions que nos clients peuvent se poser quand ils utilisent les services d'OVHcloud. Les questions: - commerciales (combien coûte, ce qu'il me faut) - techniques (comme ça marche, comment setup) - incident (ça marche plus, j'ai une panne) Si vous êtes sceptiques sur la qualité de réponses d'un Chatbot AI, essayez et donnez moi votre feedback ici ! Ca m'intéresse ! Le but est d'utiliser ce genre d'outil pour démarrer une discussions avec le support. Est-ce que ca fait le café pour initier l'échange avec le support ? Dites le moi :) Comment ça marche ? 3 bouts de code: 1) J'indexe toutes les pages d'OVHcloud une fois par semaine, en utilisant RAG et LLM (LLama 3.3 70B), 100K pages, 1.2M lignes dans PG, embedding ME5_Large (1024). Les réponses viennent uniquement du site web OVHcloud. Donc si la réponse est mauvaise ce que la page avec le bon contenu n'existe pas. Il faut la créer pour indexer. Simple. 2) sur chat.di2amp.ovh on peut poser la question directement sur RAG (Search) ou digérer un RAG via LLM (Chat). Dans ce cas, j'ajoute une reformulation de la question + l'extrait via Llama 4 17B (800-900ms) et la digestion du RAG via DeepSeek 3.1 (2.5-3.5sec) 3) Évaluation de "question / réponse" via Mistral-medium pour scorer la qualité de réponse, et identifier quelles pages / quel texte il faut ajouter sur le site web pour compléter les informations qui manquent pour bien répondre à toutes les questions de nos clients. C'est un outil en ALPHA fait durant qq soirées / wks, sur une VM à 30e/mo, un DBaaS à 120e/mo, une VM embed V100 (ca va passe en end-point pour 10e/mo), et les calls API end-point AI (Llama DeepSeek Mistral) pour 50e en Sep. Rien de spectaculaire, encore un peu lent je trouve, mais déjà mieux que sur les GPUs "standard". A vos feedbacks ! Merci d'avance !