Remiantis archeologiniais radiniais, teigiama, kad hominidas veikla Japonijoje gali pasireikšti jau 200 000 B.C. kai salos buvo sujungtos su žemynine Azijos dalimi. Nors kai kurie mokslininkai abejoja tokia ankstyva gyvenimo data, dauguma sutinka, kad maždaug 40 000 B.C. apledėjimas vėl sujungė salas su žemynu.
Japonijos žemės populiacija
Remdamiesi archeologiniais įrodymais, jie taip pat sutinka, kad nuo 35 000 iki 30 000 B.C. Homo sapiens migravo į salas iš rytinės ir pietryčių Azijos ir turėjo nusistovėjusius medžioklės, rinkimo ir akmenų įrankių modelius. Akmens įrankiai, apgyvendinimo vietos ir šio laikotarpio žmonių fosilijos buvo rasta visose Japonijos salose.
Jomono laikotarpis
Dėl stabilesnio gyvenimo būdo atsirado apie 10 000 B.C. į Neolitas arba, kaip teigia kai kurie mokslininkai, Mezolitas kultūrą. Galimi tolimi šiuolaikinės Japonijos Ainu aborigenų protėviai, nevienalytės Jomon kultūros nariai (ca. 10 000–300 B. C.) paliko aiškiausią archeologinį įrašą. Iki 3000 B.C. Jomon žmonės gamino molio figūras ir indus, papuoštus raštais, padarydami įspūdį šlapias molis su apvyniotu ar neaprištu virveliu ir lazdelėmis (Jomon reiškia „pintos virvės modeliai“) augant rafinuotumas. Šie žmonės taip pat naudojo skaldyto akmens įrankius, spąstus ir lankus. Jie buvo medžiotojai, kolekcionieriai ir sumanūs pakrančių ir giliavandenių žvejų būriai. Jie praktikavo žemišką žemės ūkio formą ir gyveno urvuose, vėliau - grupėse sekliose duobėse ar antžeminiuose namuose, paliekant turtingus virtuvės vidurius šiuolaikiniam antropologiniam tyrimui.
Remiantis archeologiniais tyrimais, vėlyvasis Jomono laikotarpis buvo dramatiškas. Pagalbinis auginimas virto rafinuotu ryžių ir žaliavų auginimu bei vyriausybės kontrole. Daugelis kitų japonų kultūros elementų taip pat gali kilti iš šio laikotarpio ir atspindėti mišrią migraciją iš šiaurinio Azijos žemyno ir pietinių Ramiojo vandenyno sričių. Tarp šių elementų yra šinto mitologija, santuokos papročiai, architektūros stiliai ir technologiniai pokyčiai, tokie kaip lakavimo reikmenys, tekstilė, metalo apdirbimas ir stiklo gamyba.
Yayoi laikotarpis
Kitas kultūrinis laikotarpis - Yayoi (pavadintas po Tokijo skyriaus, kuriame buvo atlikti archeologiniai tyrimai) atidengtų jo pėdsakų) suklestėjo tarp maždaug 300 B.C. ir A. D. 250 iš pietų Kyushu į šiaurę Honšiu. Ankstyviausi iš šių žmonių, kurie, kaip manoma, migravo iš Korėjos į šiaurinį Kyushu miestą ir maišėsi su Jomonu, taip pat naudojo skaldytos akmens įrankius. Nors „Yayoi“ keramika buvo labiau pažengusi į priekį, ji buvo paprasčiau dekoruota nei „Jomon“ dirbiniai.
Yayoi padarė bronzinius ceremoninius nefunkcinius varpelius, veidrodžius ir ginklus, o iki pirmojo amžiaus A. D. - geležinius žemės ūkio įrankius ir ginklus. Didėjant gyventojų skaičiui ir vis sudėtingesnei visuomenei, jie pynė audinius, gyveno nuolatiniuose ūkininkų kaimuose, statė mediniai ir akmeniniai pastatai, sukaupti turtai nuosavybės teise į žemę ir sandėliuojant grūdus, išsivystė savita socialinė klases. Jų drėkinta, šlapių ryžių kultūra buvo panaši į centrinės ir pietinės Kinijos kultūrą, reikalaujanti didelių sąnaudų žmonių darbo, kuris paskatino labai sėslios, agrarinės visuomenės vystymąsi ir galimą augimą.
Skirtingai nuo Kinijos, kuri turėjo vykdyti didžiulius viešuosius darbus ir vandens kontrolės projektus, dėl kurių vyriausybė buvo labai centralizuota, Japonijoje buvo gausu vandens. Tuomet Japonijoje vietiniai politiniai ir socialiniai pokyčiai buvo palyginti svarbesni nei centrinės valdžios ir stratifikuotos visuomenės veikla.
Ankstyviausi rašytiniai įrašai apie Japoniją yra iš šio laikotarpio kinų šaltinių. Wa (japonų ankstyvojo kinų vardo japonų kalbos tarimas japonų kalba) pirmą kartą paminėtas A.D 57. Ankstyvieji Kinijos istorikai apibūdino Wa kaip šimtų išsibarsčiusių genčių bendruomenių kraštą, o ne suvienyta žemė, turinti 700 metų tradiciją, kaip išdėstyta Nihongi mieste, kuris padėjo Japonijos pamatą 660 B.C.
Trečiojo amžiaus kinų šaltiniai pranešė, kad Wa gyventojai gyveno iš žalių daržovių, ryžių ir žuvies, patiekiamų ant bambuko ir medinių padėklų, palaikė vasalo ir meistro santykius, rinko mokesčius, turėjo provincijų kiemai ir turgūs, plakę rankas pamaldose (kažkas vis dar padaryta Šinto šventyklose), vykdė žiaurias paveldėjimo kovas, statė molinius piliakalnius ir stebėjo liūdesys. Himiko, ankstyvosios politinės federacijos, žinomos kaip Yamatai, valdovė, klestėjo trečiajame amžiuje. Kol Himiko karaliavo kaip dvasinis vadovas, jos jaunesnysis brolis vykdė valstybės reikalus, apimančius diplomatinius santykius su Kinijos Wei dinastijos teismu (A.D. 220–65).