Attention
Définition
Mécanisme permettant à un modèle de pondérer différemment les parties d'une entrée selon leur pertinence pour la tâche en cours. Fondamental dans les architectures Transformer.
Voir aussi
Aller plus loin avec hIAppy
Vous voulez appliquer concrètement Attention dans votre PME ou ETI ?
- Diagnostic IA hIAppy Vision : on cadre votre cas d'usage en 4 à 6 semaines.
- Prototype IA hIAppy Lab : POC fonctionnel en 5 à 15 jours.
- Formations IA hIAppy Learn : ateliers et formations sur mesure.