出於進一步加大升限的目的，殲-6Ⅱ在殲-6Ⅰ型的基礎上進一步加大機翼面積0.6平方米，進氣道中央增加了可調整流錐，改善高速條件下的進氣效率並減小阻力。同時進氣口唇口半徑減小，機頭有8個輔助進氣門。液壓系統將主系統和助力系統合併為單系統。殲-6Ⅱ拆掉了阻流板、通用梁、照相槍、信號槍、防彈鋼板、發動機防護板、9框氧氣瓶等，進一步減輕了飛機重量；為彌補殲-6Ⅰ飛機火力不足的缺點，殲-6Ⅱ的機頭左側下方加裝1門23-1航炮，備彈75發，提高火力，並可掛2枚霹靂-2飛彈，裝АСП-3НМ瞄準具，主要用來對付敵高空偵察機等目標。
