Năm 794, Thiên hoàng thứ 50 của Nhật là Kammu dời đô từ Heijo-kyo sang Heinan-kyo, nay là Kyoto, lịch sử Nhật Bản chính thức bước sang trang mới, chuyển tiếp từ thời kỳ Nara sang thời kỳ Heian. Đây là thời kỳ Nho giáo của Trung Hoa lan truyền mạnh sang Nhật Bản, cũng như là giai đoạn đỉnh cao của quyền lực Thiên hoàng, đánh dấu sự phát triển của nghệ thuật, thơ ca và văn học
Đến năm 811, cuộc chiến kéo dài 38 năm giữa triều đình và bộ lạc Emishi cuối cùng cũng đã đi đến hồi kết, tộc Emishi bị đẩy sang Hokkaido và các vùng lãnh thổ phía bắc Honshu triều đình giành được từ cuộc chiến được phân chia lại cho các gia tộc. Tại thời điểm này, quyền lực của các gia tộc phong kiến địa phương dần trở nên mạnh hơn. Không lâu sau đó thì một cuộc chiến giữa các gia tộc nổ ra.
Ban đầu thì mâu thuẫn giữa các quý tộc chỉ đơn giản là tranh giành quyền lực trong kinh thành. Và vào giữa những năm 800-900, có thể thấy rõ một gia tộc thắng thế hơn cả, đó là gia tộc Fujiwara, đúng hơn là nhánh Hokke Fujiwara, bởi gia tộc này phân ra làm 4 nhánh chính là Nanke Fujiwara, Hokke Fujiwara, Shikike Fujiwara, Kyoke Fujiwara, giúp họ hoàn toàn kiểm soát triều chính. Ảnh hưởng của gia tộc này bắt nguồn từ các cuộc hôn nhân chính trị giữa các nữ nhân trong gia tộc Fujiwara với Hoàng tộc, các trưởng nam ngoại thích Fujiwara từ đó trở thành bố vợ, anh rể, chú hoặc ông ngoại của Thiên hoàng. Bắt đầu từ năm 857, Fujiwara no Yoshifusa được phong chức Daijo daijin (Thái Chính Đại Thần), tức chức quan cao nhất trong triều, không lâu sau người cháu 9 tuổi của ông trở thành Thiên hoàng Seiwa, khiến gia tộc Fujiwara có quyền lực tối cao. Sau biến cố năm 866, nhiều thành viên của gia tộc Otomo và gia tộc Ki bị trục xuất, đối thủ chính trị lớn nhất của gia tộc Fujiwara từ đó cũng không còn. Đỉnh cao quyền lực nhất của gia tộc này là dưới thời Fujiwara no Michinaga (966-1160) ngoài giữ chức Kampaku (thượng thư) trong triều, ông còn là ông ngoại của 3 Thiên hoàng, cha của 6 Hoàng hậu, ông nội của 7 phối ngẫu Hoàng tộc khác.
Ngoài ra, mâu thuẫn cũng nảy sinh ra ở địa phương, vì triều đình không quản nổi các gia tộc này dẫn tới các cuộc chiến diễn ra liên tục do nhiều quý tộc khởi binh chống Thiên hoàng như Taira no Masakado (939-940); Fujiwara no Sumitomo (939); Taira no Tadatsune (1028); Abe no Yoritoki, Abe no Sadato (1051-1063); Kiyohara no Iehira, Kiyohara no Takahira (1083-1089),… Điểm chung của các cuộc nổi loạn này là Thiên hoàng không có đủ khả năng để chống trả nên phải đến xin các gia tộc khác hỗ trợ, sau khi tiêu diệt xong một cuộc nổi loạn, Thiên hoàng lại phải phong chia đất lấy được từ các quý tộc nổi loạn sang cho các quý tộc hỗ trợ mình, khiến họ ngày càng mạnh hơn nữa.
Một thay đổi khác cũng xảy ra trong thời kỳ này ở tầng lớp chiến binh bushi bắt đầu biến chuyển. Vào những năm 900, các bushi được mời tới bảo vệ kinh thành dần được gọi với cái tên “samurai” nghĩa là người coi sóc, bảo vệ, phục vụ – nhưng mang tính chất quyền quý. Được trở thành samurai được coi là một danh dự cực kỳ cao quý, vì được phục vụ trong một vị trí cao như vậy. Trải qua 2 thập kỷ sau đó, từ “samurai” dần được dùng để thay thế cho từ “bushi” nghĩa là tất cả những ai thuộc tầng lớp bushi đều đã trở thành samurai. Tầng lớp samurai này dần trở nên mạnh hơn theo thời gian, do các cuộc chiến giữa các gia tộc ngày càng lan rộng, vai trò của samurai làm binh lính chiến đấu cũng từ đó trở nên quan trọng hơn. Tầng lớp này mạnh đến nỗi vào năm 889, xuất hiện gia tộc samurai đầu tiên chi phối nền chính trị Nhật Bản là gia tộc Taira, lãnh đạo bởi Taira no Takamochi, không lâu sau đó gia tộc Minamoto cũng theo sau, đứng đầu là Minamoto no Tsunemoto, 2 gia tộc này nhanh chóng trở thành 2 gia tộc có quân đội đông nhất Nhật Bản.
Nhưng sau đó quyền lực của gia tộc Fujiwara lại trở nên suy yếu, và quyền lực bắt đầu chuyển từ tay nhiếp chính nhà Fujiwara sang Thái thượng Thiên hoàng, tức các Thiên hoàng đã thoái vị nhưng vẫn nắm quyền. Năm 1068, Thiên hoàng Go-Sanjo lên ngôi, trở thành Thiên hoàng đầu tiên mà mẹ không phải là người của gia tộc Fujiwara, một điều chưa từng có tiền lệ trong suốt 170 năm. Ngay khi lên cầm quyền vị Thiên hoàng này liền lập tức thi hành chính sách chỉnh lý shoen (trang viên), tức các vùng đất tư hữu không phải nộp thuế cho triều đình. Ông ban hành Lệnh Enkyu năm 1069, quy định các trang viên được lập sau năm 1045 phải có giấy tờ hợp lệ. Nếu không có, các trang viên này sẽ được sung vào công lãnh do Quốc ty quản lý. Để thi hành lệnh này, Thiên hoàng thiết lập cơ quan gọi là Kirosusho (Ký lục sở), đứng đầu là hai đại quan Minamoto no Tsunenaga và Oe no Masafusa, cả hai đều theo phe chống gia tộc Fujiwara. Cách thức kiểm soát của hai ông là bắt các trang viên phải trình giấy tờ chứng minh đất cát và so sánh giấy tờ ấy với báo cáo của các quan kokushi xem có giống nhau hay không, bất kể chúng là trang viên thuộc gia đình dòng họ quý tộc lớn hay không, hễ là trang viên chỉ vừa mới ra đời và thiếu giấy tờ, không đúng quy luật là bắt đình chỉ ngay. Phương pháp ấy đã thu lượm được nhiều thành quả, và là một đòn đau cho gia tộc Fujiwara vì đa số shoen đều thuộc sở hữu của gia tộc này. Cuộc chiến chính trị giữa Thiên hoàng và gia tộc Fujiwara tiếp tục diễn ra cho đến khi các thành viên trong dòng họ này tức giận và đòi từ chức hàng loạt, do họ nắm giữ phần lớn chức vụ trong triều đình nên Thiên hoàng cũng không muốn quá mạnh tay, vì vậy hai bên quyết định thỏa hiệp.
Năm 1072, Thiên hoàng Go-Sanjo thoái vị, nhường ngôi cho con trai là Thân vương Sadahito, hiệu là Thiên hoàng Shirakawa, Go-Sanjo lâm bệnh qua đời vài tháng sau đó. Tân Thiên hoàng lại tiếp tục gây chiến với gia tộc Fujiwara giống cha mình. Đến năm 1807, ông thoái vị và nhường ngôi lại cho Thân vương Taruhito, hiệu là Thiên hoàng Horikawa, còn Shirakawa trở thành Thái thượng Thiên hoàng ở tuổi 34. Ông cho thi hành chính sách Insei (Viện chính), theo đó Thượng hoàng sẽ giúp Thiên hoàng còn nhỏ tuổi điều hành chính sự, các mệnh lệnh do Thượng hoàng ban ra sẽ có quyền lực cao hơn “chiếu” (mikotonori) của Thiên hoàng và “hạ văn” (kudashibumi) của Daijo daijin. Từ đây quyền gia tộc Fujiwara không còn kiểm soát hoàn toàn triều đình, nhưng vẫn là một gia tộc có ảnh hưởng tại kinh thành. Về phần Thái thượng Thiên hoàng thì lại bắt đầu chuyên quyền, họ tịch thu ruộng đất từ tay các gia tộc lớn, nhưng lại phân phát cho người của Thái thượng Thiên hoàng chứ không đưa cho triều đình quản lý. Nói cách khác thì thế lực của Thái thượng Thiên hoàng giờ đây cũng chả khác gì các gia tộc phong kiến là mấy.
Điều này không cần phải nói cũng biết sẽ dẫn tới mâu thuẫn giữa Thái thượng hoàng và Thiên hoàng, khi đã gần 18 tuổi và đủ để nhận thức, Thiên hoàng Horikawa quyết định đích thân chấp chính, nhưng cha là Thái thượng hoàng Shirakawa vẫn muốn cầm quyền nên không hài lòng. Để tiếp tục nắm giữ quyền lực, Shirakawa quyết định nhận nuôi con của Horikawa là Thân vương Munehito, tức cháu mình và đưa Munehito lên làm Thái tử. Năm 1107, Horikawa lâm bệnh băng hà ở tuổi 29, Munehito lên ngôi, hiệu là Thiên hoàng Toba nhưng quyền lực thật sự lại về tay Shirakawa. Thiên hoàng Toba trở thành Hoàng đế bù nhìn của Thái thượng Thiên hoàng Shirakawa suốt 16 năm, và ông bắt đầu căm thù ông nội của mình.
Thái thượng hoàng Shirakawa lúc đó có một người con gái nuôi là Fujiwara no Shoshi, sau này được biết đến là Taikenmon-in, ở tuổi 17, cha bà là Fujiwara no Michinara qua đời nên được Shirakawa nhận vào nuôi dưỡng. Shirakawa sau này gả Fujiwara no Shoshi cho cháu mình là Thiên hoàng Toba, mặc dù Toba ghét Shirakawa nhưng quan hệ giữa ông và Taikenmon-in cũng khá tốt. Theo thời gian thì quan hệ giữa Toba và Shirakawa ngày càng xấu đi, vì vậy Thái thượng hoàng ép Toba thoái vị và nhường ngôi lại cho Thân vương Akihito, tức con trai Toba, lúc ấy mới 3 tuổi, hiệu là Thiên hoàng Sotoku. Vì chỉ là Thiên hoàng nên Toba không có quyền lực gì nhiều, ông phải nhẫn nhịn đồng ý với Shirakawa và ngồi chờ cơ hội.
Một điều cần phải biết về Sotoku là mặc dù Toba rất yêu quý người vợ Taikenmon-in xinh đẹp của mình, ông lại không thích đứa con trai cho lắm. Và không rõ có phải vì chuyện ấy hay không mà trong triều lại xuất hiện tin đồn Sotoku không phải con trai của Toba mà là con trai của Shirakawa, nói cách khác thì Thái thượng Thiên hoàng gả con nuôi cho cháu ông rồi lại có quan hệ bất chính với con nuôi. Hiện nay thì vẫn chưa thể biết được tin đồn này có đúng hay không, nhưng Taikenmon-in vốn được ghi nhận là vô cùng lăng nhăng nên không phải là không thể.
Năm 1129, Shirakawa lâm bệnh qua đời và ngay lập tức Thái thượng Thiên hoàng Toba chớp cơ hội giành lấy triều chính. Ông có vẻ tin vào những lời đồn trên nên ép Thiên hoàng Sotoku thoái vị và nhường ngôi cho người con khác của Toba là Thân vương Narihito lúc ấy mới 3 tháng tuổi, hiệu là Thiên hoàng Konoe. Sotoku đồng ý nhưng lúc này lại mâu thuẫn với Toba và ông tìm cách lập đồng minh, đặc biệt là liên minh với gia tộc Fujiwara trong triều để đối phó. Năm 1164, Thiên hoàng Konoe đột ngột băng hà, Thái thượng Thiên hoàng Sotoku đòi lập con trai mình làm Thiên hoàng nhưng Thái thượng Thiên hoàng Toba lại đưa một người con khác của mình với Taikenmon-in là Thân vương Masahito lên thay, hiệu là Thiên hoàng Go-Shirakawa.
Bên cạnh mâu thuẫn quyền lực xảy ra trong Hoàng tộc, lúc này trong nội bộ gia tộc Fujiwara cũng xảy ra mâu thuẫn, gia tộc này đúng là đã không còn quyền lực như trước đây nhưng cũng còn rất mạnh và họ luôn tìm cách giành kiểm soát triều đình trở lại. Có 2 anh em giành chức gia chủ của nhà Fujiwara, người anh là Fujiwara no Tadamichi, người em là Fujiwara no Yorinaga, mặc dù Tadamichi là con cả nhưng cha của 2 người là Fujiwara no Tadanaze lại yêu quý Yorinaga hơn. Fujiwara no Yorinaga còn chứng tỏ mình là một người rất tài năng, ông leo lên nhiều chức vị cao trong triều và càng ngày càng tiến gần hơn đến làm nhiếp chính. Nhưng đó không có nghĩa là Tadamichi không có cơ hội, khi Thiên hoàng Konoe băng hà, Tadamichi vu cáo Yorinaga đầu độc Konoe với Toba, do không có bằng chứng nên Toba không trị tội, nhưng cũng đủ khiến quan hệ giữa Thái thượng Thiên hoàng và Yorinaga xấu đi, khiến ông không còn cơ hội thăng quan tiến chức. Mặc dù là tin xấu cho Fujiwara no Yorinaga nhưng lại là tin tốt cho Fujiwara no Tadamichi, ông hoàn toàn được Toba tin tưởng và về phe của Thái thượng hoàng, còn Yorinaga ngày càng phải dựa nhiều hơn vào người nhà trong gia tộc Fujiwara của mình để tiếp nắm giữ quyền lực. Lúc này có thể thấy triều đình đã phân hoá rõ rệch ra làm 2 phe; một phe ủng hộ tiếp tục chế độ Viện Chính, tức Thái thượng Thiên hoàng cầm quyền, đứng đầu là Thái thượng Thiên hoàng Toba, Thiên hoàng Go-Shirakawa, Fujiwara no Tadamichi (tạm gọi là phe Hoàng tộc); phe còn lại muốn khôi phục trở lại quyền lực nhiếp chính của nhà Fujiwara, đứng đầu là Thái thượng Thiên hoàng Sutoku, Fujiwara no Yorinaga (tạm gọi là phe nhiếp chính Fujiwara).
Nhưng đây chỉ mới là nội bộ đấu đá chính trị, muốn đánh nhau thì cũng phải cần một đội quân, vậy đội quân ấy lấy đâu ra? Đương nhiên là 2 gia tộc có lực lượng quân đội mạnh nhất Nhật Bản, gia tộc Taira và gia tộc Minamoto. Và cả 2 phe trong triều đều cố giành sự ủng hộ của 2 gia tộc này về phía mình. Trong khi mâu thuẫn ở kinh thành đang dần lên đến đỉnh điểm, một samurai tên Minamoto no Tameyoshi lúc này đang tìm cách trở lại triều đình do trước đây từng bị cách chức. Ông là người đứng đầu nhánh tộc Kawachi Minamoto, một nhánh thuộc Seiwa Minamoto của dòng họ Minamoto, tức hậu duệ của Thiên hoàng Seiwa. Tameyoshi là trưởng tộc Minamoto nên muốn được triều đình trọng dụng, nhưng tại thời điểm này, Heinan-kyo lại thích sử dụng quân đội của gia tộc Taira hơn.
Thấy rằng nếu Thái thượng Thiên hoàng tiếp tục cầm quyền thì mình sẽ không được trọng dụng, Minamoto no Tameyoshi quyết định liên minh với phe nhiếp chính Fujiwara, hy vọng rằng lãnh đạo mới sẽ thích dùng quân đội của Minamoto hơn. Ông liên minh với Fujiwara no Yorinaga nên sau đó được hồi phục lại chức quan trong triều. Tameyoshi sau đó lệnh cho con cả của mình là Minamoto no Yoshimoto đi khắp nước Nhật để thành lập liên minh với các quý tộc khác và xây dựng quân đội để chuẩn bị cho cuộc chiến sắp tới. Yoshimoto có tài nên xây dựng được một lực lượng lớn quân đội, nhưng ông lại có tham vọng nên phản bội cha mình và đem quân gia nhập vào phe Hoàng tộc cùng với Fujiwara no Tadamichi, từ đó có được một chức quan trong triều. Tameyoshi sau đó đành sai người con thứ 2 là Minamoto no Yoshikata xây dựng quân đội mới, may mắn rằng người con này không phản lại ông. Quân của Minamoto no Yoshimoto và Minamoto no Yoshikata sau đó đánh nhau ác liệt tại kinh thành.
Việc này khiến Thái thượng Thiên hoàng Toba tức giận và ông đuổi cả 2 phe nhà Minamoto khỏi Heian-kyo, đồng thời cách hết chức quan. Tại thời điểm này nhà Minamoto đã chia làm 2 phe, Minamoto no Tameyoshi theo nhiếp chính Fujiwara và Minamoto no Yoshimoto theo Hoàng tộc. Gia tộc Taira lúc này cũng xảy ra mâu thuẫn nội bộ, trưởng tộc Taira lúc này là Taira no Kiyomori ủng hộ Hoàng tộc và Thái thượng Thiên hoàng Toba, nhưng chú của Kiyomori là Taira no Tadamasa thì lại là đồng minh lâu năm của Thái thượng Thiên hoàng Sutoku.
Hai phe trong triều ngày càng mâu thuẫn cho đến năm 1156, Thái thượng Thiên hoàng Toba băng hà, sự kiện này trở thành giọt nước tràn ly châm ngòi nổ cho Loạn Hogen, khi Thái thượng Thiên hoàng Sutoku, cùng Fujiwara no Yorinaga, Minamoto no Tameyoshi, Taira no Tadamasa làm một cuộc đảo chính chống lại Thiên hoàng Go-Shirakawa, Fujiwara no Tadamichi, Minamoto no Yoshimoto, Taira no Kiyomori. Hai bên giao tranh ác liệt, cuối cùng đưa Minamoto Yoshimoto và Taira no Kiyomori lên kiểm soát triều đình. Loạn Hogen sau này sẽ dẫn tới Loạn Heiji và Chiến tranh Genpei còn đẫm máu hơn.