Entraînement
Le processus qui crée ou met à jour substantiellement un modèle.
Infrastructure d’IA canadienne
Chaque réponse d’IA mobilise des ressources physiques : GPU, stockage, réseau et serveurs exploités dans un lieu précis.
Lorsque la résidence, la confidentialité ou la souveraineté sont déterminantes, l’infrastructure sous-jacente compte autant que le modèle. Underlabs conçoit le système en fonction du degré de présence canadienne, de maîtrise des opérations et d’indépendance que la charge de travail exige réellement.
Les ressources de calcul sous le modèle
Une application, une base de données et des documents peuvent résider au Canada, tandis que l’inférence s’exécute dans une autre région, chez un autre fournisseur.
Plus on descend dans la pile, plus les enjeux de souveraineté deviennent concrets.
Le calcul, en termes simples
Le processus qui crée ou met à jour substantiellement un modèle.
L’utilisation d’un modèle déjà entraîné pour traiter une entrée et produire un résultat. Pour la plupart des systèmes clients d’Underlabs, c’est la principale question d’infrastructure.
La résidence de l’application et celle de l’inférence sont deux décisions architecturales. Voir le parcours complet des données.
Cinq questions distinctes
Ces questions transforment une préférence générale pour le Canada en exigences vérifiables par les équipes d’architecture et d’approvisionnement. Elles ne constituent pas un avis juridique.
Où se trouvent les machines : au Canada, ailleurs, dans un centre de données ou dans les installations du client?
Qui exploite l’infrastructure : un fournisseur mondial, une entreprise canadienne, un exploitant de colocation ou l’équipe TI du client?
Qui administre les identifiants, le réseau, les systèmes d’exploitation, le déploiement des modèles, la surveillance et les mises à jour?
Quelle organisation externe doit rester disponible? La charge peut-elle être déplacée vers un autre environnement?
Quelles relations organisationnelles et juridiques s’appliquent? L’emplacement, la propriété, l’exploitation et la juridiction sont liés sans être identiques.
Une distinction importante
Une région canadienne exploitée par un fournisseur infonuagique mondial peut offrir un véritable emplacement physique au Canada, des outils éprouvés, une grande fiabilité, une mise à l’échelle rapide et du soutien aux entreprises. Pour bon nombre d’organisations, cette option convient tout à fait.
Une région canadienne et une infrastructure sous maîtrise canadienne répondent toutefois à des exigences différentes. Le matériel peut se trouver au Canada, tandis que l’organisation qui l’exploite ou le maîtrise est établie ailleurs. Le service n’est pas moins sûr pour autant; son périmètre de maîtrise est simplement différent.
Un éventail, pas un classement
Aucune option n’est universellement supérieure. Chacune modifie les coûts, la maîtrise, la maintenance, la mise à l’échelle, la résilience et la vitesse de déploiement.
Une infrastructure complète
Le choix du modèle et celui de l’infrastructure sont liés. Voir comment choisir un modèle d’IA canadien ou international.
Un GPU est un processeur adapté aux calculs parallèles des modèles modernes. Le modèle doit tenir dans la mémoire de l’accélérateur; les modèles plus grands peuvent exiger plus de mémoire, plusieurs GPU, de la quantification ou du partitionnement.
Les poids des modèles, documents, bases de données, représentations vectorielles, index, fichiers, résultats, journaux et sauvegardes ont tous besoin d’un stockage planifié.
Les communications application-modèle, l’accès au stockage, les limites de réseau privé, la latence, la redondance et les interconnexions influencent la performance et la fiabilité.
Les systèmes privés à haute performance exigent une capacité électrique, du refroidissement, de l’espace, de la redondance et de la maintenance. Posséder les GPU n’est donc pas automatiquement plus simple.
Contexte canadien actuel
Le calcul souverain désigne généralement une infrastructure conçue pour garder des charges stratégiques à l’intérieur d’une limite nationale, organisationnelle ou juridique voulue. Il ne s’agit pas d’une certification technique universelle.
La stratégie nationale actuelle du Canada présente le calcul, l’infonuagique, la connectivité, les données et l’infrastructure comme des fondements de la souveraineté de l’IA. Elle prévoit l’expansion d’une capacité souveraine tout en considérant les investissements des fournisseurs à très grande échelle comme une partie de l’écosystème canadien.
Le Programme d’infrastructure de calcul souveraine pour l’IA soutient une capacité publique canadienne de calcul avancé.
Consulter le programmeServices partagés Canada déploie une plateforme qui réunit calcul, stockage et services d’IA canadiens pour les ministères et organismes fédéraux.
Voir la Plateforme d’IA du GCLe plan ministériel de SPC décrit une infrastructure d’IA souveraine, des options hybrides, du calcul de périphérie et une capacité accrue au Canada.
Lire le plan ministérielStratégie nationale en matière d’intelligence artificielle du Canada. Ce contexte public ne constitue ni une recommandation d’architecture pour toutes les entreprises ni une approbation d’Underlabs.
Planification de capacité
La planification de capacité estime l’infrastructure réellement nécessaire à partir du nombre d’utilisateurs, des requêtes par seconde, de la taille du modèle, du contexte, de la longueur des réponses, des accès simultanés, de la latence et de la disponibilité visées.
Une capacité insuffisante rend le système lent ou peu fiable. Une capacité excessive laisse des GPU coûteux inactifs.
Le coût complet inclut le matériel, l’alimentation, le refroidissement, la maintenance, la redondance, le personnel et les cycles de remplacement.
Architectures hybrides
Une architecture privée n’exige pas toujours du matériel appartenant au client. Voir les topologies d’IA privée et sur site.
L’informatique en périphérie peut réduire la latence et le transfert de données ou permettre un fonctionnement hors ligne, mais ajoute des contraintes de capacité, de déploiement et de gestion des appareils.
La résilience est la capacité de continuer à fonctionner pendant une défaillance. Le basculement permet de passer à une autre ressource. Selon la criticité, il peut falloir prévoir les pannes de GPU, de réseau, de stockage, de fournisseur, d’API ou de région.
Du besoin au système fonctionnel
Underlabs n’est ni un centre de données, ni un fabricant de matériel, ni un fournisseur de GPU. Nous déterminons l’environnement approprié, déployons la pile d’IA et développons le logiciel utile qui s’y appuie.
Préciser ce que l’IA doit accomplir, pour qui et avec quelles données.
Identifier ce qui doit rester au Canada, demeurer privé, être maîtrisé par le client ou rester disponible localement.
Mesurer la capacité réelle sur les tâches, langues, formats et erreurs du système.
Relier le modèle, le volume, la concurrence, la latence et la disponibilité aux ressources nécessaires.
Comparer région canadienne, environnement dédié, infrastructure privée, colocation, sur site, périphérie et hybride.
Développer logiciels, API, recherche, agents, automatisations, authentification et intégrations.
Relier logiciel et infrastructure dans un système exploitable, observable et récupérable.
Réduire, lorsque pratique, la dépendance inutile envers un seul modèle ou fournisseur d’infrastructure.
Guide d’approvisionnement
Une réponse précise à ces questions est plus utile qu’une étiquette générale de nuage, d’hébergement canadien ou de souveraineté.
La vue d’ensemble
La souveraineté résulte de l’architecture du système complet.
Commencer par les exigences
Présentez-nous la charge de travail, les données sensibles, les contraintes canadiennes, les systèmes existants et les objectifs d’exploitation. Underlabs peut les traduire en architecture, évaluer les modèles et la capacité, puis construire et déployer le système.