Toutes les équipes ne peuvent pas envoyer leurs invites vers le cloud d'un tiers. Les secteurs régulés, les charges du secteur public et les entreprises soumises à des règles strictes de résidence des données ont besoin que leur pile d'IA reste à l'intérieur de leur propre réseau. ToRun est distribué comme plateforme auto-hébergeable exactement pour ce cas — et ce n'est pas une édition amputée. C'est le même produit, sous votre contrôle.
Ce que signifie ici « auto-hébergé »
ToRun auto-hébergé, c'est la plateforme complète déployée sur une infrastructure qui vous appartient : vos serveurs, votre grappe Kubernetes ou un hôte Docker unique dans un centre de données. Aucune obligation de rappeler la maison pour l'inférence. Quand vous acheminez un message de chat, une génération d'image ou une étape de flux, la requête va vers les modèles que vous avez configurés, qui peuvent être entièrement locaux.
Le déploiement est conçu pour être exploité par une petite équipe. Une installation Docker en une commande lève l'API, le frontal Angular, MongoDB, Redis et le bus d'événements. Ensuite, vous pointez vers vos dorsaux de modèles et votre stockage objet, et la plateforme se comporte comme la version hébergée.
Apportez vos propres LLM locaux
L'acheminement par capacités de ToRun se moque de savoir si un modèle vit chez un fournisseur cloud ou sur une machine à GPU dans votre propre baie. Vous enregistrez un modèle dans le catalogue avec les capacités qu'il prend en charge (texte, vision, outils, sortie structurée, etc.), vous pointez le client vers votre point de terminaison d'inférence local, et il entre dans le même pipeline d'acheminement que tout le reste.
Cela signifie que vous pouvez faire tourner des modèles à poids ouverts via un serveur local — les mêmes points de terminaison d'inférence compatibles OpenAI qu'utilisent déjà la plupart des équipes qui auto-hébergent — et laisser ToRun choisir entre eux par capacité et par coût, exactement comme il choisirait entre fournisseurs cloud. Un flux peut mêler un modèle local pour les étapes sensibles et un modèle cloud pour celles qui ne le sont pas, si votre politique le permet. Ou vous pouvez garder chaque appel à l'intérieur du périmètre.
Les mêmes briques, sous vos clés
Auto-héberger ne signifie pas renoncer à la machinerie de confiance de la plateforme. Sur votre propre infrastructure, vous conservez :
- L'acheminement par capacités avec repli automatique entre les dorsaux de modèles que vous enregistrez.
- Un enregistrement de facturation par appel — le registre des coûts fonctionne contre vos tarifs configurés, vous pouvez donc encore attribuer la dépense par équipe, par mode et par modèle même si le calcul est le vôtre.
- Un coffre BYOK pour les fournisseurs cloud que vous choisissez d'utiliser, avec identifiants chiffrés au repos et piste d'audit de la résolution.
- Un audit chaîné par hachage pour les actions nécessitant une preuve d'intégrité.
- Les outils de droits sur les données RGPD/KVKK — l'accès et l'effacement des personnes concernées s'exécutent contre votre propre base, donc une demande d'effacement est satisfaite entièrement à l'intérieur de votre frontière de contrôle.
Licence et mises à jour
L'édition auto-hébergée est licenciée par déploiement avec accès au code source, afin que votre équipe sécurité puisse relire ce qui tourne dans votre périmètre. Les mises à jour arrivent sous forme de versions signées que vous appliquez quand vous le décidez — pas d'auto-mise à jour forcée poussant des changements dans un environnement régulé sans votre accord. Pour les équipes qui en ont besoin, un accord de séquestre de code existe afin que le déploiement reste exploitable indépendamment de la situation du fournisseur.
À qui cela s'adresse
Si votre objection à l'adoption d'une plateforme d'IA a toujours été « nous ne pouvons pas faire sortir ces données de notre réseau », ToRun auto-hébergé est la réponse. Vous obtenez un espace de travail d'IA multifournisseur moderne — chat, génération, flux, mémoire, bases de connaissances — tournant contre vos propres modèles, sur votre propre matériel, avec l'auditabilité qu'une équipe conformité réclame réellement.
Parlez-nous d'un déploiement auto-hébergé ou lisez la section sur site sous /docs pour l'architecture de référence.