Aller au contenu principal

Cotées

, accueil
FREN

Transformeur (Transformer)

En anglais :
Transformer

Définition

Architecture de réseau de neurones fondée uniquement sur un mécanisme d’attention, qui pondère l’importance de chaque élément d’une séquence par rapport aux autres. Elle a été présentée en 2017 dans l’article « Attention Is All You Need ». Les grands modèles de langage reposent sur elle, comme de nombreuses politiques robotiques, dont ACT.

Vérifié le contre les références ci-dessous. · Rédigé avec l’IA · vérifié contre les sources Source : Vaswani et al., « Attention Is All You Need », 2017 (arXiv:1706.03762).

Termes liés

Références

Retour au lexique