Innanzitutto un tensore è un insieme di funzioni matematiche (le componenti del tensore) che si trasformano, al variare delle coordinate, secondo particolari leggi. Senza entrare nei dettagli tecnici è sufficiente sottolineare che, proprio in base a queste leggi di trasformazione, due tensori uguali in un sistema di coordinate restano tali in qualsiasi altro sistema di riferimento. Ossia: se T e S sono due tensori, espressi in coordinate x, y, z…, tali che T = S, allora, nel passaggio a un nuovo sistema di coordinate x', y', z'…, T e S non rimangono invarianti ma si trasformano rispettivamente in T' e S', conservando comunque la precedente uguaglianza T' = S'.

Per questo motivo si dice che un'equazione tra tensori, come T = S, è un'equazione covariante, nel senso che, in un qualsiasi cambiamento di coordinate, T “varia come” S, per cui i trasformati di T e S continuano a essere uguali tra loro. Con la denominazione “equazione covariante” si intende dunque, nei fatti, un'equazione formalmente invariante: l'invarianza è nella relazione tra gli oggetti, che sono tensori, e non negli oggetti stessi. Grazie a questa loro caratteristica i tensori risultano specificamente utili per esprimere tutte quelle relazioni (di fisica, analisi e geometria) che per loro natura devono essere indipendenti dal sistema di coordinate scelto.