葉小綱出身於音樂世家,四歲起隨父親葉純之學習綱琴,中學畢業後下放至農場勞動,後又進工廠當鉗工六年,1978年考入中央音樂學院作曲系,師從杜鳴心教授。1980年在英國劍橋大學著教授Alexender Goehr的短期作曲班上學習,1981年首次舉行個人作品音樂。1982年《中國之詩》(Pome of China)獲美國齊爾品作曲比賽第一名,1983年《第一小提琴協奏曲》(Violin Concerto No.1)獲中央音樂學院作曲獎。1984年,中國改革開放後首次派出葉小綱作為中國青年作曲家的代表出席在澳大利亞舉行的亞太地區藝術節及作曲家大會,並在當地首演了新作《西江月》(Moon Over the West River)。
1985年中國音協及中國唱片公司為葉小綱舉行了交響作品音樂會,首演了《老人故事》(The Old Man's Tale)。1986年,受中國文化部委託為日本駐華大使中江要介的舞劇《浩浩蕩蕩,一衣帶水》(Across the Water)與日本藝術家合作,作為中方代表共同創作該舞劇的音樂,在東京和北京同時上演。
1987年,葉小綱獲美國伊斯曼音樂學院獎學金赴美留學,師從美國著名作曲家Dr. Samuel Adler,Dr. Jpserph Schwantner,Prof. Louis Andriessen。至此開始接受世界各地的委約及參加各類的國際藝術活動,並創作了眾多的作品,其中,三部大型舞劇Dalai Ⅵ、《紅雪》(The Snow is Red)、When The Dream Fades;室內樂Therenody、Tripdus、Ballade、《三迭》(Tribasic),《和》(Wa);和作品The Last Paradise、The Silence of the Sakyamuni、The Silence of the Red Poppy、The Far Calls、《沅歌》(Song of Ruan)、《死之蝕》(The Erosion of Death)等。這些作品分別首演於加拿大、美國、日本、台灣、紐西蘭、英國、香港、芬蘭、挪威、德國和瑞士等國家和地區。
1998年被上海交響樂團聘為駐團作曲家,同時受深圳市委宣傳部和廣東省委宣傳部的委約,創作交響樂《春天的故事》(Spring)和舞劇《深圳故事》(The Story of Shenzhen);以及芬蘭國際音樂節的委約創作了室內樂《Marginalia》。《馬九匹》(Nine Horses)和《迷竹》(Enchanted Banboo)頻繁演出於歐洲、美洲及亞洲各國。
2001年,大型崑曲歌舞劇《貴妃東渡》(Cross the East Sea)作為2001年北京市"賀歲系列"演出演於北京保利劇院。同年該劇演於日本18場。《釋迦之沉默》由日本東京愛樂樂團再次演出於日本東京。同年接受廣東省深圳市委宣傳部委約,創作大型交響曲曲《長城》(Great Wall Symphony);接受德國薩布呂肯廣播交響樂團(Saarbrucken Runderfunk)的委約,創作琵琶與樂隊協奏曲(Pipa Concerto),並在德國進行世界首演。同年室內樂《九亂》(Nine Run)首演於慕尼黑,《林泉》(Woody Spring)也於同年完成。出任"聆聽經典"大型系列音樂朗誦會的音樂總監。
2002年1月,由德國Wergo唱片公司錄製了《最後的樂園》、《冬》、《琵琶協奏曲》和《地平線》的雷射唱片並向全世界發行。受西藏自治區文化部門的委約,創作《西藏之光》(Twilight in Tibet)。2002年4月,出任上海"中國現代音樂論壇"(China Contemporary Music Forum)藝術總監和中國音協"金鐘獎"評審,第一張電影音樂雷射唱片由北京Polo Arts出版發行。5月,《迷竹》參演"上海-台北音樂節",《最後的樂園》作為中國與義大利兩國文化交流演出,出任"中央電視台青年歌手大獎賽"評審,8月《貴妃東渡》再次赴日本演出十場。《長城交響曲》9月由上海交響樂團舉行世界首演式。10月在上海大劇院舉行有上海廣播交響樂團舉行個人作品音樂會,並在北京由北京國際音樂節主辦《中國情懷- --葉小綱作品音樂會》,主持了北京國際音樂節論壇。
相關影視音樂作品有《湘女瀟瀟》(A Girl from Hunan)、《死神、老人與少女》(Girl,Death and Old Man)、《望日蓮》(Sun Flowers)、《生命如歌》(Life Song)、《超導》(Super Conductor)、《驚世商情》(Shocking Business)、《上海方舟》(Shanghai Story)、《洗澡》(Showers)、《五愛街》(Wu Ai Street)、《至高榮譽》(Greatest Honor)、《香港歲月》(Hong Kong Time)、《上海蒼桑》(Shanghai Story)、《電影春秋》(Old Time)、《走出凱旋門》(Out of Triumphal Arch)、《人約黃昏》(Evening Liaison)、《朗朗的星空》(Stary Sky)|《波濤洶湧》(Roaring Waves)、《刮痧》(The Treatment)、《白色陷阱》(White Crises)、《逃亡上海》(Escape to Shanghai)、《大地之子--蔡希陶》(Son of Earth)、《秋天的流星雨》(Meteoric shower in Night)、《芬妮的微笑》(The the End of the Bridge)和《天上的戀人》(The Lover on the Sky)、《玉觀音》(Jade Buhda)、《驚濤駭浪》(Perils)等。
2001年,交響樂《春天的故事》、《深圳故事》第一組曲、歌曲《花季雨季》(Flower and Raining Season)獲中國音協"金鐘獎"。同年還獲"2001年高等教育國家級教學成果一等獎"及文化部"區永熙優秀音樂教育獎"。電影音樂《刮痧》(The Treatment)獲第21屆"金雞"獎最佳音樂獎(China Best Film Score Award)。