Structure et représentation
TeRA : la richesse du haut rang, le coût d’un simple vecteur.
Un adaptateur de haut rang apprend mieux les tâches complexes, mais il pèse lourd ; une méthode vectorielle est minuscule, mais moins expressive. TeRA supprime ce choix. La mise à jour des poids y est décrite par un réseau de tenseurs de type Tucker : les grands facteurs, tirés au hasard, restent gelés et servent à toutes les couches. Seuls de petits vecteurs d’échelle, propres à chaque couche, sont entraînés.
Pour vous : une spécialisation fine sur votre métier, là où LoRA plafonne, dans un adaptateur très léger à entraîner, à stocker et à versionner.
La preuvePubliée à ACL 2026, conférence principale. Ses auteurs (Imperial College London) mesurent des résultats égaux ou supérieurs aux adaptateurs de haut rang, avec aussi peu de paramètres entraînables que les méthodes vectorielles. Lire l’article


