Skip to content
Extraits de code Groupes Projets
Valider 53c160fa rédigé par Benoît Legat's avatar Benoît Legat
Parcourir les fichiers

Fix shift for softmax

parent 11c72f8f
Aucune branche associée trouvée
Aucune étiquette associée trouvée
Aucune requête de fusion associée trouvée
Pipeline #54191 en échec
......@@ -106,7 +106,7 @@ plot(eachindex(losses), losses, label = "")
# Cross entropy
function softmax(x)
exps = exp.(x .- maximum(x))
exps = exp.(x .- maximum(x, dims = 2))
# Le -max(x) est utilisé dans la fonction softmax pour éviter les problèmes
# d'instabilité numérique lorsque les entrées sont grandes. Cela améliore la
# stabilité des calculs sans affecter les résultats finaux.
......
0% Chargement en cours ou .
You are about to add 0 people to the discussion. Proceed with caution.
Terminez d'abord l'édition de ce message.
Veuillez vous inscrire ou vous pour commenter