台灣通往南北這條縱貫鐵路是日本人建設的，這條鐵路是1895年8月26日，第一任台灣總督樺山資紀，向日本當局提出計劃，得到批准，第二年完成工程藍圖，但是開工日子拖很久，主要原因就是抗日事件不斷，影響開工，第二是日本戰敗，財政困難，一直到了1899年，換第四任總督兒玉源太郎上任，才決心建設台灣劉銘傳的鐵路計劃，才開始動工。
抗日事件一直是日本統治台灣最頭痛的問題，所以日本政府著急著趕緊使鐵路早日通車，因為通車之後，交通便利要隨時調動部隊較方便，所以開工時，基隆和屏東分雙頭動工，一切以提早通車為原則，像現今台北的捷運，隨便就完工，讓人笑說火燒車，當然捷運是官商勾結完成的，日本人造這條鐵路之時，是因為一方面為了應付抗日事件，無精神顧品質，所以趕工敷衍了事，打算有問題後才修改，所以這條鐵路稍早可以說是多災多難，很多建材依賴外國進口，但是因為台灣的港口設備簡單，大船不能靠港，台灣海峽風浪又大，外國的船隻不敢來台灣。
1903年之時，日本蘇俄的戰爭爆發，外國船隻不敢替日本運送建材來台灣，因為外國不愛捲入是非，所以這條鐵路當時做做停停，那時日本害怕蘇俄的海軍艦隊，駛過台灣攻日本，所以才決定日夜加班，趕工在1905年5月15完工，最後才完成接通的就是三義甲彰化這段，這條鐵路若不是日本和蘇俄戰爭爆發可能會拖更久，全線通車是1908年基隆到打狗。
阿里山鐵路，東部鐵路都是後來才完成的。