小市胡同為南北走向,南到抄手胡同,北到頭髮胡同。全長100米,平均寬3米。這裡原來有市場,主要開展木器交易,乃稱小市或木器小市。1958年公私合營的西單木器廠便在這裡組建。1965年北京市整頓地名,定名為小市胡同。