凱魯比尼出生於義大利的佛羅倫斯,原名為瑪麗亞·路易吉·卡洛·澤諾比奧·薩瓦托·凱魯比尼(Maria Luigi Carlo Zenobio Salvatore Cherubini)。但他的出生日期一直無法確定:一說是9月14日,但受洗紀錄顯示和凱魯比尼自認為9月8日才是正確的日期。或許凱魯比尼的首名是支持9月8日說的一大證據,因為9月8日是無坫聖母瑪莉亞的天主教聖徒紀念日,因此出生在9月8日的孩子往往會以“瑪麗亞”為首名。在現代的論文和音像製品上,通常會用凱魯比尼的義大利名字。在1790年,他決定採用法語版的新名瑪莉-路易-夏爾-澤諾比-薩瓦多·凱魯比尼(Marie-Louis-Charles-Zénobi-Salvador Cherubini),而且從此以後,所有關於他的檔案都使用這個法文名字。
凱魯比尼自6歲開始跟隨父親,被譽為“羽管鍵琴大師(maestro al cembalo)”的巴托洛梅奧·凱魯比尼學習音樂,並很早開始學習對位法和戲劇風格,十三歲便創作了數首宗教作品,被譽為音樂神童。1780年更獲得托斯卡尼大公的資助,前往博洛尼亞和米蘭進修。
凱魯比尼早期的正歌劇使用了阿波斯托洛·澤諾(Apostolo Zeno)、梅塔斯塔齊奧和其他根據當時戲劇傳統標準創作的辭本。而他的音樂也明顯受到當時風行的作曲家,如尼可洛·約梅里(Niccolò Jommelli)、托馬索·特拉埃塔(Tommaso Traetta)和安東尼奧·撒奇尼(Antonio Sacchini)的影響。而凱魯比尼唯一的喜劇作品,《三妻之夫和無妻之夫(Lo sposo di tre e marito di nessuna)》在1783年11月的威尼斯首演。
為自己無法在舞台作品中取得成功,凱魯比尼還是不斷增加宗教音樂的創作,寫下了七套彌撒,兩部安魂曲,還有很多短篇聖歌。而波旁王朝復辟後,凱魯比尼更被任命為王家音樂總監Surintendant de la musique du roi),直至1830年七月革命波旁王朝被推翻後。而1815年,倫敦愛樂協會委託凱魯比尼撰寫一部交響樂,一首序曲,還有一部合唱交響曲。卡魯比尼創作完後,更親赴倫敦指揮首演,增加了他在國際上的名聲。
雖然凱魯比尼只有少量室內樂的創作,但很多人認為這些作品相當重要。威廉·阿特曼(Wilhelm Altmann)在他的《弦樂四重奏演奏手冊(Handbuch für Streichquartettspielers)》中指出,卡魯比尼的六部弦樂四重奏皆是一流作品,而其中第一號和第三號更是傑作。而卡魯比尼為兩部小提琴,一部中提琴以及兩部大提琴所作的弦樂五重奏也被譽為一流之作。
1822年,卡魯比尼被任命為巴黎音樂學院院長,並完成他的教科書《對位法和賦格教程(Cours de contrepoint et de fugue)》。而在1835年,身為院長的卡魯比尼陷入了和年輕新進埃克托·白遼士的衝突當中,導致白遼士晚年在回憶錄中形容卡魯比尼是一個反覆無常的迂腐老學究。部分樂評人如巴西·迪安指出白遼士對凱魯比尼的描述,扭曲了後世對凱魯比尼的印象。但事實上,不少同時代的人對凱魯比尼容易動怒的個性,有所暗示,如阿道夫·阿當就曾寫道:“部分人一直聲稱的脾氣很穩定,因為他經常發怒。”縱然如此,卡魯比尼依然有不少朋友,如羅西尼、蕭邦等等,當然還有畫家安格爾。安格爾和凱魯比尼可謂興趣和職業互補:凱魯比尼是個業餘畫家,安格爾喜歡玩小提琴。而在1841年,安格爾為年老的凱魯比尼劃下了最著名的一幅肖像。