前特工約瑟夫·L·斯科特將胡佛描述成一個嚴厲且偏執的老人，他令所有人感到恐懼。例如，斯科特稱，胡佛喜歡在備忘錄的頁邊空白處批註，如果備忘錄的頁邊太窄，他就會批註到：“注意邊界（Watch the borders）！”沒有人敢去問他這樣寫的原因，而是派人去詢問邊界巡邏隊在美加和美墨邊界是否有異動。直到一周后，總部的一個職員才明白這句話是指備忘錄的紙邊。斯科特還說，那一段時期錯誤增加的邊境活動最終導致了美國共產黨領導人加斯·豪爾被捕。
胡佛死後，美國總統尼克森要求國會降半旗致哀。美國國會通過決議，允許胡佛的遺體在國會山圓形大廳里供人瞻仰，這種榮譽在當時只授予給過另外21個人。國會還通過決議，刊印一份紀念手冊來追思胡佛。《約翰·埃德加·胡佛：美國國會紀念頌詞以及與他的生活和工作有關的文章和社論》（J. Edgar Hoover: Memorial Tributes in the Congress of the United States and Various Articles and Editorials Relating to His Life and Work）於1974年出版。
聯邦調查局的確在針對顛覆者和間諜方面取得了一些成功。但是，第二次世界大戰時的奎瑞案（Ex parte Quirin）卻是一個失敗的例子。1942年，德國潛艇U-boat裝載兩個納粹特工小組共八人分別在佛羅里達州和長島秘密登入，意圖在美國國內進行破壞活動。直到其中的一人聯繫了聯邦調查局並坦白了一切後，這些人才被逮捕。儘管如此，總統杜魯門在回憶錄中這樣寫道：“這個國家有理由對我們的安全機構感到驕傲並對它們充滿信心。他們使得我們可以在二戰中近乎避免暴亂和間諜的干擾。”
1956年，胡佛因美國最高法院限制法務部起訴政見不同者，尤其是共產主義者的判決感到愈發沮喪。也正是此時，他打著“反諜計畫”的幌子，組建了一個“骯髒”的秘密項目。直到1971年被曝光，這個秘密項目始終在運作，胡佛和聯邦調查局也因此遭到了尖刻的批評。反諜計畫最早被用來瓦解美國共產黨，後來又被用來對付諸如黑豹黨、馬丁·路德·金組建的南方基督教領袖會議（SCLC），三K黨，新納粹主義者組織美國納粹黨以及其他團體。它的破壞手段包括滲透，盜竊，非法竊聽，偽造檔案和散布針對目標組織主要成員的謠言。一些作家還指控聯邦調查局在反諜計畫中運用的手段還包括煽動暴力和謀殺。1975年，反諜計畫受到愛達荷州共和黨參議員弗蘭克·丘奇領導的“美國眾議院負責調查政府情報行動專門委員會”（英文：United States Senate Select Committee to Study Governmental Operations with Respect to Intelligence Activities，又被稱為丘奇委員會）的調查。最終，該計畫被宣布為非法和違反憲法。
