日本第一條鐵路——京濱鐵路（新橋—橫濱）於1872年建成，全長29公里。
目前，日本鐵路網由JRs線路和其他軌道交通方式線路（包括大型民鐵、東京捷運、地方交通、公營）組成，其中JRs線路主要是橫跨全國的幹線鐵路，後者則主要為城市或市郊軌道交通線路。截至2011年3月，日本鐵路營業里程為27642.8公里，其中JRs線路20142.1公里，占總里程的72.9%。從路網質量來看，2010年日本鐵路的電氣化率為61.8%（JRs為55.9%），複線率為32.9%（JRs為38.2%）。
高速鐵路方面，1964年10月1日，世界上第一條高速鐵路——東海道新幹線建成通車，在此後的40餘年間，新幹線線路不斷發展，逐漸延伸至日本本州島、九州島的大部分地區。截至2013年3月，已有6條標準軌距的新幹線全線或部分開通，線路總長達2388公里。所有新幹線的最高運營速度均達250公里/小時以上，其中山陽新幹線達300公里/小時，東北新幹線達320公里/小時。當在建、計畫建設及未來規劃建設的高速鐵路建成後，日本將形成較完整的新幹線高速鐵路網。
截至2011年7月1日，日本提供鐵路（包括幹線鐵路、城軌捷運等）客貨運輸服務的企業有205家，其中客運公司193家、貨運公司12家，客運公司中以原日本國鐵民營化改革後成立的6家JR客運公司為主，貨運主要是JR貨運公司。
客運方面，2011年度日本鐵路客運量為226.32億人，其中JRs完成88.37億人，其他鐵路完成137.95億人，分別占39.0%和61.0%；旅客周轉量為3950.67億人公里，其中JRs完成2469.37億人公里，其他鐵路完成1481.30億人公里，分別占62.5%和37.5%。雖然JRs完成的客運量比重小於其他鐵路，但由於運距較長，旅客周轉量占總周轉量的比重還是遠遠大於其他鐵路。同年，新幹線客運量達3.07億人，旅客周轉量為814.20億人公里，分別占JRs鐵路客運量和旅客周轉量的3.5%和33.0%。
貨運方面，2011年度日本鐵路貨運量為3988.6萬噸，貨物周轉量為199.98億噸公里，分別比上年度減少8.6%和2.4%。JR貨運公司完成的貨運量和貨物周轉量所占比重分別為70.5%和99.2%（2010年）。
