Introductie: We zeggen dat een Markovketen naar een evenwicht nadert, wanneer er een waarde van $t$ bestaat waarvoor $\underline{x}_{t+1}\approx\underline{x}_t$. Het evenwicht wordt meestal genoteerd met $\pi$.

Definitie: $\pi$ is een evenwicht van een Markovketen als $A\pi=\pi$.