Proxy web avec SSL

Sécuriser votre connexion à votre serveur GPU est un élément essentiel pour chaque développeur. S'assurer que votre travail est accessible tout en maintenant la sécurité est important lorsque vous développez la prochaine grande innovation en matière d'IA !

👮 Pour une sécurité et une évolutivité optimales, ne pas exposer ce point de terminaison directement aux utilisateurs publics. Mettre en œuvre un serveur web dédié pour gérer les interactions utilisateur, qui communiquera ensuite avec votre serveur GPU. Cette architecture respecte les meilleures pratiques et les normes de l'industrie.

Exposition simple et sécurisée d'un service interne sur Internet

Ce modèle fournit un moyen simple aux clients d'exposer un service interne (HTTP ou WebSocket) à l'internet public via le système de routage Trooper.AI. Il crée automatiquement un point de terminaison HTTPS sécurisé avec un certificat SSL gratuit, tout en transférant le trafic vers n'importe quel port interne de la machine du client.

L'objectif est la simplicité : installer un petit proxy, spécifier deux ports et obtenir instantanément une URL sécurisée et accessible depuis l'extérieur.

Tout le trafic de l'endpoint SSL du Webproxy vers le port public de votre machine est acheminé dans notre réseau interne, contournant complètement Internet. Ceci est un avantage de sécurité significatif de Trooper.AI.


Fonctionnalités clés

1. Point de terminaison HTTPS public

Votre service interne devient accessible sous un *.secure.trooper.ai sous-domaine, acheminé via l'infrastructure Trooper.AI avec des certificats SSL automatiques.

2. Support complet des WebSockets

Le modèle transfère à la fois le trafic HTTP standard et les connexions WebSocket sans configuration supplémentaire.

3. Protection par mot de passe facultative

Si un nom d'utilisateur et un mot de passe sont fournis, le point de terminaison est sécurisé avecauthentifié avec Basic gratuituit avec certificat gratuit. avec certificat gratuit avec certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit et gratuit avec certificat gratuit et avec certificat gratuit avec certificat gratuit avec certificat gratuit avec certificat gratuit avec certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec a user and a password are provided, the endpoint is secured with Basic Auth. Leaving both values empty disables authentication.

4. Configuration propre et minimale

La configuration génère un point de terminaison proxy dédié, écoute sur un port choisi et transfère tout vers votre service interne.


Comment ça marche

Entrées

Example config
Configuration exemple

Vous ne définissez que la configuration du modèle avant l'installation.

Le port externe sera attribué automatiquement et affiché à côté du nom du modèle, comme pour les autres modèles.

🚨 N'utilisez pas le port 443 et ne fournissez pas de certificat auto-signé sur votre port !

Flux interne

  1. Nginx est installé (avec la prise en charge de htpasswd).
  2. Si l'authentification est activée, un fichier de mot de passe est créé.
  3. Une configuration de proxy est placée sous /etc/nginx/sites-available/trooperai-webproxy-<external_port>
  4. La configuration redirige tout le trafic entrant vers http://127.0.0.1:<internal_port>.
  5. Les en-têtes de mise à niveau WebSocket sont automatiquement transmis.
  6. Nginx est rechargé et le point de terminaison devient actif.

Classes de délai d'attente

Type de trafic Comment c'est détecté Délai d'attente du proxy
Requête/réponse HTTP standard Tout ce qui ne correspond pas ci-dessous 60s (PAR DÉFAUT)
Chat/Streaming (SSE / NDJSON) Le chemin contient /api/chat, /chat/completions, /api/generate, /generate, /stream, /events, or Accept: text/event-stream / application/x-ndjson 10 min (LONG)
Téléchargements de fichiers volumineux Range en-tête, chemin d'accès ou extension de fichier Accept: application/octet-stream 30 min (TÉLÉCHARGEMENT)
WebSockets Mise à niveau HTTP vers WS/WSS Pas de délai d'inactivité du proxy

Le proxy ajuste également dynamiquement les délais d'attente sur la réponse (par exemple, si votre serveur envoie 206 or Content-Disposition: attachment, cela augmente le délai d'attente TÉLÉCHARGEMENT même si la requête n'avait pas été initialement classée comme un téléchargement).


Certificat SSL gratuit inclus

Une fois actif, le routeur de Trooper.AI détecte le port exposé, émet un certificat SSL gratuit et publie votre point de terminaison sécurisé.


Exemple de résultat

Example Webproxy success
Succès de la passerelle webproxy

Étant donné un nom de domaine attribué par Trooper.AI tel que :

Code
myapp123-husky-delta.secure.trooper.ai

et un port publiquement disponible dans votre plage configurée (par exemple, 12345), avec un service interne écoutant sur le port 8080,

le flux de connexion sera : 8080 -> 12345 -> https://myapp123-husky-delta.secure.trooper.ai.

Ceci transfère en toute sécurité le trafic depuis le point de terminaison HTTPS public vers votre service interne.


Dépannage

Nous avons compilé des réponses aux questions fréquemment posées concernant la fonctionnalité webproxy. Pour une assistance personnalisée, veuillez contacter notre équipe de support : Contacts Support.

Où trouver mon domaine ?

Assurez-vous que votre service interne fonctionne sur le port souhaité, puis installez ou mettez à jour le modèle webproxy. Le domaine attribué et l’état d’activation SSL (indiqué par une icône de cadenas) seront alors affichés.

Mon service interne est-il HTTP ou HTTPS ?

C'est une question pertinente. En interne, votre service fonctionne comme un service HTTP standard sur un port configurable, tel que 8080. Ce port reste interne à votre instance de serveur. Le service proxy web installé via ce modèle gère le chiffrement SSL, provisionnant et gérant automatiquement le certificat SSL pour un accès externe sécurisé. Essentiellement, ce modèle établit une connexion HTTPS sécurisée entre votre port interne et l'internet public.

Configurations Nginx existantes

Ce modèle installe et configure Nginx pour router le trafic interne sur votre serveur GPU. Il ne remplacera pas les configurations existantes, mais la gestion directe de Nginx sur votre serveur GPU est généralement déconseillée en raison de la complexité potentielle. Déterminez si la gestion directe de Nginx est nécessaire pour votre flux de travail.