Gatan har förmodligen fått sitt namn från kvarteret Sandbacken som ligger norr om Sandbacksgatan. På en stadskarta från 1954 kan man se att gatan börjar vid Berghemsgatan och sträcker sig söderut längs den östra sidan av kvarteret Sandbacken. I området har också en gård vid namn Sandliden funnits.
Källor: Stadskartor över Jönköping 1954 och 1854.