dlmzScore

Comment maitriser précisément le flux de données en entrée et en sortie lors du scoring de modèles profonds ?

Maîtrise des Flux Inférence Deep Learning

Inférence profonde Gestion flux Gouvernance données Optimisation threads Clés identification

La gestion du flux de bout en bout repose sur trois blocs paramétriques majeurs. Le bloc table définit vos données brutes à scorerAction d'appliquer un modèle statistique à de nouvelles données pour calculer une probabilité ou une valeur prédite. C’est l’étape de déploiement transformant les entrées en prédictions actionnables.. Le modèleReprésentation mathématique entraînée sur des données pour capturer des tendances, prédire des résultats ou classifier des observations via des algorithmes (Régression, Forêt aléatoire, Gradient Boosting). entraîné et l'ensemble de ses poids synaptiques sont chargés via le paramètre modelTable. Le résultat de l'inférence est quant à lui consolidé dans l'objet tableOut. Pour une meilleure gouvernance et afin de pouvoir joindre les prédictions au référentiel d'entreprise, le paramètre copyVars est indispensable : il permet de propager directement vos clés d'identification de la table source vers la table de sortie.

Schéma : Comment maitriser précisément le flux de données en entrée et en sortie lors du scoring de modèles profonds ?

Exemples pour l'action dlmzScore

Scoring basique

Utilisation de dlmzScore avec les paramètres obligatoires pour obtenir les prédictions d'un modèle entraîné.

Scoring avancé avec accélération matérielle et options YAML

Un exemple de configuration exhaustive pour des performances maximales : distribution des données, utilisation de 2 GPUs, multi-threading et options YAML personnalisées.

Conseil de l'Expert
Pour optimiser les performances lors du scoring de modèles massifs, privilégiez toujours l'utilisation du paramètre nThreads. Sur Viya 4, l'alignement du nombre de threads avec le partitionnement de votre table d'entrée en mémoire CAS évite le "data shuffling" inutile et réduit drastiquement la latence d'inférence.

Cette réponse vous a-t-elle aidé ?

Utilisateur FAQ SAS Viya
Vos votes aident à améliorer notre base de connaissances.

Action CAS associée

dlmodelzoo

dlmzScore
À lire aussi...
Comment l'action dlmzScore révolutionne-t-elle l'inférence des modèles PyTorch dans SAS Viya ? Comment l'action dlmzScore révolutionne-t-elle l'inférence des modèles PyTorch dans SAS Viya ? Est-il possible d'appliquer des transformations à la volée ou de mapper des variables nominales lors du scoring ? Est-il possible d'appliquer des transformations à la volée ou de mapper des variables nominales lors du scoring ? Quels sont les leviers techniques pour maximiser la vitesse de scoring sur des environnements multi-noeuds et GPU ? Quels sont les leviers techniques pour maximiser la vitesse de scoring sur des environnements multi-noeuds et GPU ? Comment assurer l'exacte reproductibilité des prédictions et évaluer la perte lors de l'inférence ? Comment assurer l'exacte reproductibilité des prédictions et évaluer la perte lors de l'inférence ?