A fali gyík kistestű, meglehetősen lapított formájú faj. Hossza az orrcsúcstól a kloakanyílásig 7-8 cm. A farka 1,5-2-szer hosszabb, mint a teste. Színezete látszólag jelentéktelen, a barna és a szürke árnyalatai játsszák a főszerepet, de közelről megfigyelve a mintázata rendkívül változatos, amely valamifajta harmonikus eleganciába rendeződik. Az ivari kétalakúság más gyíkfajokhoz hasonlóan a fali gyíknál is megfigyelhető. A hím valamivel nagyobb, erőteljesebb felépítésű, feje vaskosabb. Alapszíne barna, drapp vagy bézs, olykor zöldes árnyalattal, a hát közepén hosszanti széles sávot alkot. A sáv közepén gyakran sötét csík húzódik, amely olykor rövid pálcikákká vagy pettyekké szakadozik. Egyes példányok háta azonban teljesen pettyezett is lehet. Testoldala sötétbarnán pettyezett, márványozott vagy pepita mintázatot mutat, amelyben sötétbarna, fekete és világos (olykor fehér) elemek vegyülnek. A nászruhás egyedek oldalán, a haspikkelyek peremén gyakran figyelhetők meg égszínkék pettyek vagy foltok is. A has piszkosfehér vagy drapp, de gyakran narancs- vagy rózsaszínű, fekete pettyekkel. A pettyek a torkon sűrűbben találhatók meg. A nőstény mintázata szerényebb. Alapszíne megegyezik a hímével, de általában nem pettyezett. A hát közepén megtalálható az egybefüggő vagy felszakadozó sötét csík. A testoldal sem pettyezett, hanem sötétbarna hosszanti sáv húzódik rajta, amely a nyakon a legkontrasztosabb. A has piszkosfehér vagy drapp. A fiatalok a nőstényekre hasonlítnak, farkuk azonban zöldes árnyalatú. 
A fali gyíkot magyarországi elterjedési területén kívül nagy szín- és mintaváltozatosság jellemzi. Feltételezhetően e változatosság egy része mögött taxonómiai különbségek húzódnak meg (ld. Taxonómia). Több helyen, így Magyarországon is (pl. Mecsek), előfordulnak teljesen fekete (melanisztikus) példányai is.