平清盛專擅朝政，惹起不少人反感。源賴朝與岳父北條時政舉兵討伐平家，掀起源平合戰。源賴朝以鐮倉 (位於今神奈川縣) 為根據地，發展力量，佔據關東地區。未幾消滅源義仲、源義經、陸奧國藤原氏勢力，統一全國。建久三年 (公元 1192 年)，源賴朝出任征夷大將軍，建立鎌倉幕府。
征夷大將軍是大和朝廷為對抗蝦夷族所設立的軍官職位，征夷大將軍的衙門稱為「幕府」，故征夷大將軍又稱「幕府將軍」。幕府將軍是所有武士與軍人的總首領，故源賴朝能夠統領各地諸侯與軍人。
源賴朝死後，嫡子源賴家繼任家督，成為鎌倉幕府第二代將軍。源賴家用人唯親，漠視舊令，獨斷專橫，母親北條政子於是要求任何決定都須十三名御家人聯署才能生效，以限制賴家獨裁，確保幕府穩定。親源賴家的勢力作出反擊，未能成功，源賴家最後被北條時政剝奪將軍之職，流放到伊豆幽禁。源賴家被廢黜後，弟弟源實朝接任第三代將軍。可惜他在建保七年 (公元 1219 年) 被源賴家之子源公曉弒殺。實朝無子嗣，源氏血脈斷絕，鐮倉幕府從此為外戚北條氏所操縱。
傳至北條時宗，元世祖忽必烈兩度派大軍侵略日本。鐮倉幕府在颱風的護蔭下，雖可擊退元軍艦隊，經濟基礎卻遭受重挫。後醍醐天皇即位，決心恢復皇室權威，密謀倒幕。足利高氏早已不滿北條氏專制政權，與天皇聯手領兵反抗幕府。東勝寺合戰，北條高時等人自殺，鎌倉幕府滅亡。
後醍醐天皇進行了第一次王政復古，旋即推行一連串新政。然而，由於新政未能令武士們得益，加上只重用京都的公卿貴族，引起武士階層的普遍不滿。建武三年 (公元 1336 年)、足利尊氏 (足利高氏於倒幕成功後被賜姓尊氏) 與弟弟足利直義於鐮倉起兵，攻佔京都，擁立光明天皇，開設幕府。後醍醐天皇持著天皇象徵的三神器逃往南部的吉野，仍不退位，史稱「一天二帝南北京」。
足利義滿接任征夷大將軍，開始策劃對南朝的反攻。1392 年，北朝包圍奈良，南朝後龜山天皇將三神器交給北朝後小松天皇，歷時五十六年的南北朝分裂局面正式結束。
足利義滿在京都城內的室町街建造了「花之御所」作為政務場所，足利幕府因此亦稱「室町幕府」。他同時建造著名的金閣寺。
傳至第八代將軍足利義政，因繼承人問題起紛爭，以細川勝元為首的派系跟以山名宗全為首的派系爆發戰爭，戰火遍及日本國土。「應仁之亂」削弱了幕府的權威，給予地方有實力的大名 (大名指較大地域的領主。領主為了保護自家產業，往往擁有自己的武力，以武士為骨幹，換言之，大名有經濟與軍事實力) 崛起的機會。它是日本步入戰國時代一重要標誌。
