L'action offre une intégration native et transparente avec les unités de traitement graphique via le bloc de paramètres gpu. En spécifiant une liste d'identifiants via l'argument devices, le moteur analytique déporte les calculs tensoriels massifs vers les cœurs matériels dédiés. Pour aller encore plus loin dans la performance temporelle, les architectes Data peuvent modifier l'argument precision en optant pour le format FP16 (virgule flottante sur 16 bits) au lieu du traditionnel FP32. Cette demi-précision double virtuellement la vitesse d'exécution tout en réduisant de moitié l'empreinte en RAM, un atout incontournable pour entraîner des architectures de vision par ordinateur très profondes.
Comment orchestrer l'accélération matérielle GPU et la précision des calculs pour des performances extrêmes ?
Exemples pour l'action dlTune
Optimisation basique (Tuning)
Exemple d'optimisation simple d'un modèle avec l'algorithme ADAM, en définissant une petite recherche sur le taux d'apprentissage.
Tuning intensif avec GPU et sauvegarde des meilleurs poids
Une recherche d'hyperparamètres avancée exploitant le GPU, avec recherche sur le taux d'apprentissage et la taille du mini-batch, en sauvegardant le meilleur état de poids.
Cette réponse vous a-t-elle aidé ?
À lire aussi...
Quels sont les algorithmes de résolution mathématique mobilisables pour la descente de gradient ?
Quelles stratégies avancées l'optimiseur propose-t-il pour empêcher le surapprentissage lors de l'exploration des hyperparamètres ?
Comment l'action dlTune maximise-t-elle le retour sur investissement de vos projets d'intelligence artificielle ?
De quelle manière l'action gère-t-elle la persistance de l'état d'optimisation lors d'entraînements longs ou interrompus ?