Időszámításunk kezdete előtt új, már földművelő néptörzsek érkeztek a területre. Hatalmukat fokozatosan kiterjesztették a szigetországra. A régészek jajoi (yayoi) kultúrának nevezték el e nép kultúráját, s többek szerint ők voltak a japán nép ősei. Az mindenesetre kétségtelen, hogy ettől kezdve Japán egy nép egységes országát jelentette.
A jajoi kultúra szép agyagedényeit és agyagfiguráit egyszerű körvonalak, mértani díszítések és vörösesbarna felületek jellemzik. A korszak végén megjelentek a szeladon porcelán előfutárai, a sötétszürkébe hajló, arányos formájú és igen kemény szue/sue cserépedények is.
A paleolit korszak embereinek életmódjáról, a barlanglakó kőkorszaki ősök építkezéséről alig maradt fenn emlék, egy-két szerszámot kivéve. Úgy vélik, hogy az ősi barlanglakásokból mintegy 10 000 évvel ezelőtt költöztek az őslakók a veremlakásokba. A dzsómon kultúrával kezdődött a japán építészet története. Fakunyhókat építettek földbe süllyesztett középrésszel (ennek emlékét még napjainkban is őrzik főleg faluhelyen, de a legkorszerűbb enteriőrökben is, a besüllyesztett tűzhelyek). Később cölöpépítményeket, továbbá kő dolmeneket emeltek. A Jajoi korból származó bronzemlékek már arról tanúskodnak, hogy a Kr. u. III-IV. században a trópusi vidékekre jellemző magas tetőfelépítmény is megjelent.