A törpesármány Európában csak a skandináv országokban, a Kola-félszigeten és az attól keletre eső oroszországi területeken fészkel. Ázsiában a költőterülete Kelet-Szibériáig terjed. A tajgán a folyók menti füzeseket, bokros ártereket részesíti előnyben, de a tundrák törpefüzes, törpenyíres állományaiban is előszeretettel fészkel. Finnországban és Oroszországban az 1930-as évektől kezdve nyugat felé terjeszkedik. Hosszú távú vonuló.
Telelőterületei Észak-Indiában, Dél-Kínában és Délkelet-Ázsia északi részén vannak. Az északkelet-európai állomány egy kisebb része ősszel nyugati irányban vonul el. Ezeket a példányokat már sok országban megfigyelték, sőt a Brit-szigeteken a január-áprilisi időszakban történt befogások alapján áttelelése is valószínűsíthető.
   
A fajt Magyarországon ritka kóborlóként tartjuk számon. Az első példányt 1988-ban Ócsán gyűrűzték meg, de 2002-ig bezárólag mindössze két további előfordulását sikerült bizonyítani. Az utóbbi évtizedben viszont több madárgyűrűző állomáson is befogták az őszi vonulás során. A sumonyi adat abból a szempontból érdekes, hogy a madár kézre kerülése tavaszi időszakban történt. Lehet, hogy egy korai vonuló példányról van szó (a faj tavaszi vonulása június közepéig is elhúzódhat), de az sem zárható ki, hogy esetleg egy áttelelő sármányt gyűrűztünk meg.