民國35年冬，汾州路清真寺鄉老馬忠勛、馬孝瑜、米朝宗、楊萬清發起募捐，創辦伊光第二國小校。由於集資困難，辦學經費不足，利用汾州路清真寺作課堂。僅辦兩個班級，學生20餘人。該清真寺教長金耀祖兼任校長。1955年，區政府撥款5萬元，改善辦學條件，在惠民路757號新建校舍，學校改建成6年制完全國小，改名楊浦區回民國小校。
