dlmztrain

Quels algorithmes d'optimisation sont disponibles et comment prévenir le phénomène de surapprentissage lors de l'entraînement ?

Le bloc de paramètres optimizer met à disposition les algorithmes d'optimisation de pointe suivants : ADAGRAD, ADAM, ADAMW, LBFGS et SGD. Pour lutter contre le surapprentissage, vous pouvez configurer le bloc earlyStopping afin de stopper l'apprentissage de manière anticipée si une métrique cible comme VALIDATION_LOSS ne s'améliore plus après un certain nombre d'époques, défini par le paramètre patience. De plus, l'activation du booléen checkpointBest permet de sauvegarder automatiquement les meilleurs poids du modèleReprésentation mathématique entraînée sur des données pour capturer des tendances, prédire des résultats ou classifier des observations via des algorithmes (Régression, Forêt aléatoire, Gradient Boosting). plutôt que les derniers obtenus en fin de cycle.

Exemples pour l'action dlmztrain

Entraînement basique d'un modèle de Deep Learning

Cet exemple montre comment lancer un entraînement simple avec l'optimiseur ADAM sur 5 époques à partir de données d'images.

Entraînement avancé avec Validation, accélération GPU et Arrêt Prématuré

Ici on sort l'artillerie lourde : utilisation de GPU multiples, d'un jeu de validation croisée, de l'optimiseur SGD avec momentum, et d'un mécanisme d'arrêt prématuré (Early Stopping) si la perte de validation stagne pendant 3 époques consécutives.

Cette réponse vous a-t-elle aidé ?

Utilisateur FAQ SAS Viya
Vos votes aident à améliorer notre base de connaissances.

Action CAS associée

dlmodelzoo

dlmztrain
À lire aussi...
Comment cette action gère-t-elle la distribution des données pour accélérer l'entraînement sur des architectures massivement parallèles ? Comment cette action gère-t-elle la distribution des données pour accélérer l'entraînement sur des architectures massivement parallèles ? Est-il possible d'automatiser la recherche des meilleurs hyperparamètres pendant l'entraînement du modèle pour un gain de temps business ? Est-il possible d'automatiser la recherche des meilleurs hyperparamètres pendant l'entraînement du modèle pour un gain de temps business ? L'action supporte-t-elle le Transfer Learning ou le gel de couches pour affiner un modèle pré-entraîné à nos données spécifiques ? Comment puis-je transmettre des configurations complexes PyTorch qui ne sont pas exposées nativement dans les paramètres de l'action ? Quel est le rôle principal de l'action dlmzTrain dans SAS Viya et sur quel framework repose-t-elle ? Quel est le rôle principal de l'action dlmzTrain dans SAS Viya et sur quel framework repose-t-elle ?