他在1937年就被選入了納什維爾的作曲家名人堂。此後,他不僅為如今美國音樂的代表性人物約翰尼·卡什(Johnny Cash)創作過歌曲《Guess Things Happen That Way》,還第一個在19世紀50年代為後來成為美國著名搖滾音樂家的羅伊·奧比森(Roy Orbison)和美國搖滾樂的先鋒人物傑瑞·李·劉易斯(Jerry Lee Lewis)製作唱片。在2005年,更是有一部以他為主角的紀錄片《Shakespeare Was a Big George Jones Fan》問世。
1948年,17歲的克萊門特加入美國海軍陸戰隊,並被派駐華盛頓,也是在那,他與一乾來自田納西州的同鄉組了個樂隊玩藍莓音樂(鄉村音樂的一個分支)。在海軍陸戰隊服役四年退伍後,克萊門特曾在大學待過一段時間,之後便於1950年代中期進入太陽唱片公司。克萊門特替太陽唱片公司錄過不少單曲,但這些單曲直到1978年、2004年才被灌製成兩張完整的專輯《我生命中最想做的事》(All I Want to Do in Life)以及以卡什演唱的《世事如此》作為主打的同名專輯。1980年代中期,克萊門特又回到太陽唱片公司協助搖滾樂隊U2錄了新專輯《神采飛揚》(Rattle and Hum)。傑克·克萊門特
1960年,克萊門特搬遷至納什維爾,簽約唱片公司RCA成為製作人以及創作歌手。早在1950年代,納什維爾便成為美國鄉村音樂的重鎮,不少名赫一時的美國鄉村音樂家都來自這裡。而整個1960年代,納什維爾造就了美國鄉村音樂史上最輝煌的十年。也因此,“納什維爾之聲”(Nashville Sound)成了美國鄉村音樂的代名詞。但克萊門特在RCA也只是稍作停留,便前往田納西州的博蒙特鎮開了個錄音室,兼開了一家出版公司。也是在這,克萊門特結識了爾後大紅大紫的鄉村歌手喬治·瓊斯(George Jones),並敦促他錄製了由歌手迪基·李(Dickey Lee)填詞的單曲《她以為我仍在乎》(She Thinks I Still Care),該曲最後由克萊門特的出版公司為其發行,是瓊斯早年最熱銷的單曲之一,一度在1962年美國鄉村音樂的排行榜中高居第一。
美國鄉村音樂在1970年代初期陷入了低潮時期,這時從納什維爾產出的鄉村音樂如同流水線上的罐頭一般千篇一律,也毫無新意。這時,韋倫·詹寧斯(Waylon Jennings)聯合威廉·奈爾遜(Willie Nelson)發起了一場“亡命徒鄉村音樂”運動,他們試著自己製作歌曲發行,力圖以傳統音樂的製作手法來體現自己的思維方式和出著作權利,一度打破了納什維爾商業化的音樂製作模式。1974年,克萊門特為韋倫·詹寧斯打造了一張RCA出品的唱片《夢自己的夢》(Dreaming My Dreams),算是詹寧斯轉型之時難得的一張由唱片公司製作的作品。而在此前一年,音樂作品一向豐潤的克萊門特還入選了“納什維爾作曲家名人堂”。
克萊門特事業上最初的成功時期,是1950年代在薩姆·菲利普斯(Sam Phillips)於鄉村音樂之都孟菲斯創建的太陽唱片公司(Sun Records)工作時。那時,他常要在搖滾歌手傑瑞·李·劉易斯(Jerry Lee Lewis)等人錄音時替其操作響板,也是他一手操作了劉易斯、約翰尼·卡什(Johnny Cash)與貓王、卡爾·帕金斯(Carl Perkins)四人在《百萬美元四重奏》(Million Dollar Quartet)這張專輯上的合作。
克萊門特曾與無數鄉村音樂歌手合作過,其中合作次數最頻繁、最著名的便是對美國近代鄉村、流行、搖滾與民謠音樂均有重要影響的卡什。1955年,剛從軍隊退役的卡什在孟菲斯當地的電台和酒吧駐唱跑場,憑藉渾厚深沉的男中音博得了菲利普斯的青睞。在與太陽唱片公司簽約後,卡什接連推出數支單曲,其中,克萊門特1958年替卡什撰寫的鄉村和流行音樂單曲《世事如此》(Guess Things Happen That Way)、《年少女王的情歌》(Ballad of a Teenage Queen)是其最具代表性的作品。《世事如此》旋律簡單親切,歌曲里濃濃的鄉土氣息在卡什鼻音濃厚的嗓音里繞過一圈後,迅即成為美國電台和美國人在公路旅行上的好伴侶。1963年,克萊門特還替卡什打造了頗具墨西哥街頭樂隊風格的單曲《火環》(Ring of Fire),歌里灌滿了歡快的口哨聲和歡呼聲。