Tag: #traitement-automatique-langues

• "Attention is all you need" : le Transformer arrive (2017)

  2017-06-12

  Histoire Recherche

  Un article de 2017 a remplacé la mécanique séquentielle des réseaux précédents par de la pure attention. Le Transformer est devenu l'architecture derrière presque tous les grands modèles de langage depuis.