La aparición del budismo en Japón en el año 538 trajo consigo a muchos arquitectos desde la península coreana que llevaron nuevas técnicas a Japón, reflejando el estilo chino de la arquitectura budista. El comienzo del desarrollo de la arquitectura japonesa antigua data de este período. Horyu-ji, construido en 607, un templo en la localidad de Nara cuya entrada principal y pagoda datan del período Asuka, fue construido en este estilo. Su diseño nunca fue modificado. La deidad budista adorada en este templo se encuentra en el salón principal, y es la estructura de madera más antigua del mundo y el centro de todo el complejo.
El templo Horyu-ji es antisísimico y una de las construcciones en madera más antiguas del mundo.
La arquitectura del período Nara (710-794) estaba influenciada por el estilo Tang que estaba caracterizado por proporciones estables y balanceadas y por hacer énfasis en la estructura antes que la ornamentación. La sala de lectura del templo Toshodaiji en Nara es una de las representaciones más finas de este arte.
La arquitectura doméstica durante el período Muromachi (1333-1573) fue testigo de la perfección del estilo shoin-zukuri que fue el precursor del estilo actual de la casa japonesa con tatamis cubriendo los suelos. Aproximadamente en este período con el florecimiento del estilo shoin-zukuri de arquitectura residencial, la ikebana y la ceremonia del té comenzaron a hacerse populares hasta el día de hoy.
El período Momoyama (1573-1603) trajo consigo una conciencia de la cultura a través de los comerciantes que amasaron una fortuna por sus negocios en otras regiones. Un ejemplo de la popularidad y expansión de la ceremonia del té que llevó al desarrollo del estilo sukiya-zukuri, un estilo arquitectónico exclusivo para la ceremonia del té. Este estilo es utilizado en la arquitectura contemporánea.
Los estilos occidentales de arquitectura se propagaron rápidamente desde el período Meiji hasta hoy. Las ciudades japonesas están plagadas de modernos rascacielos algunos de ellos emplean en parte el estilo japonés antiguo.
Durante el período Heian (794-1185) la nobleza vivía en edificiosque tenían el edificio central y los dormitorios en el centro con pasillos que conectaban otros apartamentos. A este estilo de diseño se lo llamó shinden-zukuri, un ejemplo es el Palacio Tosanjo (1043).
Katsura Rikyu en Kyoto es un ejemplo del estilo popular durante el período Muromachi (1333-1568). Los elementos de madera delgada, la simplicidad sin ornamentos distractores, y la armonía de jardín son indicativos del estilo sukiya-zukui.
Los castillos fueron construidos en el siglo XVI debido a la filtraciín de señores feudales en la sociedad japonesa. Hay varios castillos que han sobrevivido con torres de vigilia. Un ejemplo del estilo shoin-zukuri es el Shiroshoin en Nishi-Hongenji en Kyoto que es un tesoro nacional de Japón.
Después de la influencia del período Meiji (1868-1912) la piedra y el ladrillo se introdujeron en la arquitectura japonesa, gracias a las influencias occidentales.