甲午戰爭後，大清國欽差大臣李鴻章代表清廷割讓臺灣給大日本帝國。清政府將臺灣割讓給日本的決定，在許多臺灣住民中引起不滿，時稱「紳民奔走相告，聚哭於市」，希望清政府改變態度。1895年5月29日，日軍在基隆附近的澳底登陸時並未受到強烈的抵抗，接著攻打瑞芳時有個小型的接觸戰。日軍於6月3日攻佔基隆時扼守獅球嶺砲臺的清軍已撤走，因此很容易便推進到汐止（水返腳）紮營，準備進入臺北城。此時的臺北城已陷入無政府混亂狀態，因為唐景崧等滿清官員已於6月4日爭先恐後倉皇逃回中國，留下來的清軍紀律很差。傳統的軍人，就是穿著軍服的強盜、穿了制服的土匪。這樣的軍隊在主帥相繼遁逃後就很容易變成亂民，這些外來的軍士兵丁潰散後四處劫掠、遍地積屍。治安敗壞，臺北人心惶惶，臺北民眾閉隘閘以守禦自保。所以當時在大稻埕的外國人就打電報到日本部隊，要求日本軍隊趕快進入臺北城；臺北城內的有錢仕紳富商們也希望日軍能及早進城維持社會秩序。雖然他們不知道日軍是好是壞，但那時臺北城的清軍已成了人人畏懼的亂民強盜。留守士人紳商乃集議請日軍進城，以保全居民生命財產，並先後派辜顯榮與外籍人士代表等赴基隆見日本人並一路引領日軍進臺北城。日軍於6月7日未發一彈即順利進城。日軍入城後即布告安民。17日，臺灣總督樺山資紀舉行「始政式」。日軍在進臺北城時沒受到什麼抵抗；渡過淡水河向南方推進不久，在三峽、在大溪都受到了真正的抵抗。

日本控制全臺，但各地仍常有抗日事件。早期著名的抗日領袖有簡大獅、柯鐵虎、林少貓等，但到1902年就先後被鎮壓下去。之後的重要抗日事件有1907年發生的北埔事件、1912年的林圯埔事件，1913年的東勢角事件、苗栗事件、1915年余清芳領導的西來庵事件與1930年莫那•魯道領導的霧社事件等。

在公共事業方面，日本在台灣建立詳細的戶政與地政檔案、統一度量衡、設立臺灣銀行、日台同步幣制，以及大興電信事業。至1919年，全臺已有7,146支電話與6條電報線。交通方面，1908年西部縱貫線鐵路（基隆－高雄）通車，同時基隆港和高雄港也被加以修建。農業上推動綠色革命，使臺灣成為「米糖王國」。而在文化上，則施行同化懷柔的策略，對臺灣人教授日語，並實行日本人、漢人和原住民族三種不同的教育體系。佐久間左馬太總督在任時開始對原住民族施行理蕃政策，以使其順應接受日本的統治。社會方面，總督府致力廢除「三惡」，即鴉片、纏足與辮髮。同時加強衛生體制，改造下水道並進行捕鼠工作。改農曆為公曆，在街頭放置時鐘，培養臺灣人的守時觀念。推行市區改正計劃，對後來臺灣城市的營建影響深遠。

1919年後，台灣總督可由文官擔任，軍權另設台灣軍司令官掌管，治理台灣的策略也改為同化政策。臺灣在許多方面與日本逐漸接軌。1922年，《臺灣教育令》通過，臺灣實行與日本相同的學制。1921年，日本國會通過《法三號》，修正部分六三法的內容，臺灣開始通用日本的民法、刑法與商法。1920年，全臺行政區劃改為州廳、郡市與街莊三級制，並推行有限的地方自治。在經濟上，臺灣陸續完成了數個大中型基礎設施建設，如桃園大圳、嘉南大圳、日月潭水力發電所等。米糖產業也進一步發展，特別是蓬萊米的研發成功大大提高的稻米產量。

日治中期，臺灣社會受到各種新思想的啟迪，民智已開，一些留日人士大力推行政治、社會文化運動，力求平等待遇。1914年，林獻堂奔走成立台灣同化會，追求台灣人與日本人的地位平等，但成立不久即被勒令解散。1920年1月，留日臺灣青年在東京發起新民會，推舉林獻堂為會長，主張改革臺灣政治體制。並有台灣議會設置請願運動等社會政治運動的展開，要求臺灣自治。1921年，蔣渭水等人在台北成立了台灣文化協會，藉著對台灣文化活動的關心，增進台灣人的知識及對政治的關心，以求喚醒台灣人的覺醒，啟蒙台灣人的意識，尤其想要喚起台灣人對日本殖民統治政策的批判。蔣渭水於1927年7月10日成立台灣民眾黨，台灣第一個政黨宣告誕生。總督府終於在1935年和1939年在臺灣舉行州會議員和市會議員的選舉，這是臺灣人首次擁有選舉權。

1930年10月27日，霧社地區原住民族因不滿日本政府的統治，在莫那魯道為代表，爆發霧社事件，砍殺了各地警察及霧杜公學校舉行秋季運動會的日本人136名，輕重傷百餘人。日方隨後進行武裝鎮壓，殺害霧社原住民族近千人。而後日方的檢討報告顯示，起事原因有對原住民族壓榨勞力、一些日警對原住民族婦女始亂終棄及不當的男女關係、原住民族想要回到傳統生活。時任臺灣總督石塚英藏等官員因此而下臺。

1936年，隨著日中關係惡化，自第17任總督小林躋造起，台灣總督復由軍方將領擔任。在這期間，日方推行對台灣人的皇民化運動、台灣產業的「工業化」、使台灣成為進出東南亞基地的「南進基地化」三大政策。在日治中期蓬勃開展的社會與文藝運動也逐漸停擺。皇民化運動展開後，總督府大力推廣講日語，在各地設立國語講習所。並取消報紙中的漢文欄，廢止學校中的漢文課。1940年2月，總督府公布改姓名辦法，准許臺灣人改為日式姓名。最初臺灣人對此並不熱心，但後期在獎勵政策下，不少人改用日本姓名。同時，總督府大興日本神道，廣設神社，強迫學生參拜，同時壓抑臺灣民間信仰，裁併地方寺廟，這引發不少臺灣人的反對。

1944年10月起，美軍開始轟炸臺灣，大量官署和工廠被炸，各項生產事業幾乎停頓，工業產量急劇減少。臺灣人在軍事管制、經濟統制金額、消息封鎖下，自由全無保障。日本軍方控制了報紙、廣播等事業，戰爭真相消息全被禁絕，但是民間依然流言不斷，人心浮動。全臺各大城市都籠罩在戰爭的炮火下，人民經常需要「跑空襲」，生活節奏完全被打亂，不少都市居民被迫遷徙到鄉間。1945年8月15日，日本宣布無條件投降。10月25日，末任臺灣總督兼第十方面軍司令官安藤利吉在台北公會堂簽署降約，日本在臺灣的統治宣告結束。