Al finalizar el período Jomon, una nueva cultura, que comenzó en Kyushu, se fue extendiendo lentamente hacia el este e imponiéndose de forma gradual. La cultura Yayoi era más avanzada, introdujo la técnica del cultivo encharcado del arroz, el tejido, cerámicas cocidas a altas temperaturas y herramientas de hierro. La mayoría de las innovaciones Yayoi, especialmente el hierro y el bronce, fueron introducidas probablemente desde China a través de Corea. La sociedad Yayoi era más compleja y socialmente estratificada que la Jomon. El advenimiento de la cultura Yayoi no implicó cambios raciales, por lo que, probablemente, fue más un proceso de difusión cultural que una conquista étnica.
Las crónicas oficiales chinas de la dinastía Han contienen la primera mención registrada de Japón. Indican que en el año 57 d.C. "el estado de Nu en Wo" envió emisarios a la corte imperial y recibió un sello de oro (después encontrado en Japón en 1748). Nu era aparentemente uno de los numerosos estados que ocupaban el archipiélago japonés (denominado Wo en las crónicas chinas). Las crónicas también muestran una sociedad bastante desarrollada con una organización jerárquica, marcada por un comercio de intercambio y unos escribas profesionales que escribían en chino. La mención de una reina llamada Himiko -también nombrada en las crónicas japonesas, que extendió su autoridad desde la capital (denominada Yamatai) sobre numerosos estados, alrededor del año 200 d.C.- hace suponer que el Japón de la cultura Yayoi podría haber tenido una sociedad matriarcal con reinas sacerdotisas que reunían un poder considerable.