El emperador Hiro-Hito falleció en enero de 1989 y le sucedió su hijo Aki-Hito inaugurando el período denominado Heisei (\'de la paz conseguida\'), que pronto se mostró como una época de convulsión y reforma. En abril Takeshita dimitió a causa de un escándalo por soborno; su sucesor, Uno Sosuke, también dimitió por el mismo motivo en julio y fue sustituido por Kaifu Toshiki. Los demócratas liberales ganaron las elecciones parlamentarias de febrero de 1990 a pesar de que la Bolsa de Tokio había empezado un descenso que duraría hasta mediados de 1992, cuyo índice Nikkei perdió casi dos tercios de su valor. Incapaz de hacer frente al malestar económico y sin la confianza de los miembros conservadores del partido, Miyazawa Kiichi, otro político veterano, sustituyó a Kaifu a finales de 1991, mientras que el Partido Socialista cambió su nombre por el de Partido Socialdemócrata. En 1992, se aprobó una legislación que permitía la participación de las tropas japonesas en las operaciones de paz de la ONU, antes considerado como inconstitucional.
Sobre un fondo de tensión continua con Estados Unidos por cuestiones comerciales, la confianza en el gobierno continuó su descenso mientras que los japoneses se vieron frustrados con el estancamiento de la economía nipona y la corrupción gubernamental. En junio de 1993 varios miembros del PLD, dirigidos por Hata Tsutomu y Ozawa Ichiro se escindieron para formar el Partido Renovador de Japón. En las elecciones de julio los demócratas liberales perdieron su mayoría y finalizó así un dominio del gobierno japonés que duró 38 años. Se formó una frágil coalición de siete partidos, mientras que el PLD pasó a ser el principal partido de la oposición. Hosokawa Morihiro, un antiguo demócrata liberal y dirigente del Nuevo Partido de Japón, fue elegido para encabezar el gobierno, llevando a cabo un programa de reforma electoral, que en enero de 1994 entró en vigor.
Perseguido por las acusaciones de aceptar un préstamo ilegal en 1982 y acosado por la tensión de mantener a los demócratas liberales en la coalición, Hosokawa dimitió en abril de 1994; ese mismo mes, la coalición de los siete partidos eligió a Hata como primer ministro. Poco después los demócratas liberales se retiraron de la coalición y dejaron a Hata sin la mayoría necesaria en la cámara baja de la Dieta, por lo que Hata dimitió a finales de junio. El dirigente del Partido Socialdemócrata, Murayama Tomiichi, fue elegido primer ministro, en coalición con sus antiguos enemigos, los demócratas liberales, de manera que se convirtió en la primera figura de izquierdas que dirigía Japón desde 1948. Los partidos reformistas de la oposición se reagruparon en el Partido de la Nueva Frontera, de centro derecha.
El 17 de enero de 1995 un terremoto devastó la ciudad de Kobe, con un balance de 5.000 muertos y cientos de miles de desahuciados. El 20 de marzo el metro de Tokio se vio afectado por la difusión indiscriminada de gas sarín: murieron doce personas y resultaron afectados miles de ciudadanos. Las investigaciones comprobaron la culpabilidad de la secta Aun Shinri Kyo. La coalición gubernamental sufrió un revés importante en las elecciones locales de abril; por otro lado, el Partido de la Nueva Frontera consiguió los gobiernos de varias provincias importantes. Mientras, se mantenían los problemas económicos provocados por el fuerte valor del yen, que amenazó la recuperación económica y desató una fuerte deflación de los precios.
En las elecciones legislativas celebradas en octubre de 1996, cuyo nivel de participación no superó el 60%, la más baja en la historia reciente del país, el PLD obtuvo 239 actas, a tan sólo 12 escaños de la mayoría absoluta. Los otros dos partidos que habían formado la coalición de gobierno con el PLD sufrieron severos reveses (el Partido Socialdemócrata pasó de 30 a 15 escaños y el pequeño Sakigake de 9 a tan sólo 2 diputados. Entre los partidos de la oposición, el Partido de la Nueva Frontera (Shinshinto) perdió 4 de los 160 asientos con los que contaba, el recién formado Partido Demócrata mantuvo sus 52 diputados, y el Partido Comunista casi duplicó su números de representantes en la Dieta, pasando de 15 a 26 diputados. En estas elecciones se introdujo la nueva normativa electoral incorporada en 1994; mediante ella, y con el fin de acabar con la gran fragmentación partidista existente e incorporar el bipartidismo en la política japonesa, se establecía la posibilidad de elegir a 300 miembros de la Dieta mediante el sistema mayoritario, votando a un candidato, no a una lista de partido. Los 200 diputados restantes se eligieron mediante el sistema proporcional.