距今170萬年前東亞大陸上已有原始人類生存。遠古時代的日本與東亞大陸是有陸路相連的。只是在1萬年前，海水上漲，日本列島才與大陸分隔開。日本最早發現原始人化石，是在1931年。當時考古學者在兵庫縣明石市西八木海岸，發現了一片古人類的左腰骨化石，後定名爲“明石猿人”1945年後，隨着考古學的發展，古人類化石不斷髮現。雖然發現的遺骨數量不多，但也顯示了原始人類發展的軌跡。
1950年，在櫪木縣安蘇郡的葛生町，考古學者發現了6件人類遺骨化石，取名爲“葛生猿人”。1957年，在愛知縣豐橋市的牛川町，考古學者發現了2塊人類的遺骨化石，取名爲“牛川人”。1959年，在靜岡縣的三日市，發現了人類的7件遺骨化石。1960年以後，又相繼在靜岡縣的濱北市，大分縣的聖嶽洞穴、巖戶，沖繩縣的港川、宮古島等地出土了人類的遺骨化石。日本古人遺存共達二十多處。
並據學者研究，明石人遺骨化石是日本發現的古人類遺骨中最原始的人骨化石，它所處的層位在第二冰河期，與中國的藍田猿人、北京猿人屬於同地質年代。宮古島人與中國南方猿人有相似之處。其餘的葛生人、聖嶽人、牛川人、三日人、濱北人、港川人生存的年代，大約在更新世中期至晚期之間。據遺骨檢測數據，其中聖嶽人、三日人與中國的山頂洞人在種族形態上均屬東亞類羣，十分相近。
日本有一位名叫相澤忠洋的年輕商販，他也是一位業餘的考古發掘愛好者。1949年初夏，他行商到羣馬縣新田郡笠懸町，在名爲“巖宿”的地方，十分偶然地在一處裸露的紅土層裏發現了一些打製石器。經過明治大學考古專家們的鑑定，確認爲舊石器。這一發現震撼了日本考古界，巖宿遺址被確定爲日本首次發現的舊石器時代遺址。從日本初次發現舊石器遺存以來，經過50年的發掘，舊石器文化遺址已達約四千處，遍及日本列島。探求日本文化的源頭，一般就從巖宿文化爲代表的舊石器文化開始。
日本的舊石器文化可以分爲三個發展階段。第一階段(大約10萬年前一3萬年前)的石器文化，以手握工具和指捏工具爲主，石器原料來源於自然礫石，經過簡單的加工，成爲尖器和刮削器等;第二階段，日本的舊石器文化發生了明顯的變化：定型石器和研磨技術出現，裝柄石器普及;第三階段，日本舊石器文化進入細刃器文化階段。
不同階段的舊石器文化，與東亞大陸，特別是與中國的石器文化有着密切的關係。日本早期的舊石器文化，與中國周口店的石器文化有許多近似之處，中期的石器與中國的陝西、河南、山西一帶的石器文化相似，而晚期的細刃器文化則屬於中國華北的細刃文化圈。
對舊石器時代日本原始人類的生活狀況，我們仍所知不多。特別是在2000年11月，被稱爲“上帝之手”的藤村新一“考古造假事件”被揭露之後，日本考古界開始重新檢測全部舊石器文化遺址、遺物，故存在不少不確定因素。而且，在原始文化方面，除人類遺骨化石及石器可供推測外，也無法具體考察。故講述日本文化起源，還只能從新石器時代的繩文文化開始。
日本原初文化，主要指繩文時代的文化。亦有學者將後來的彌生文化、古墳文化均當做原初文化的重要組成部分。大約1萬年前，日本進入新石器時代。這一時代的最大特徵，就是人類開始製造和使用陶器。在這一時代的遺址中，出土陶器的外部大多飾以草繩紋，因此被稱爲繩文(紋)陶器。
這一時代也被定名爲繩文(紋)文化時代(約1萬年前一約公元前3世紀)。從考古資料可知繩文時代的日本社會，以血緣爲紐帶的母系家庭是基本單位，一個母系家庭大致由五至十人組成，若干個同血緣的家庭構成氏族公社。一般情況下，繩文前期，一個氏族公社由六七戶同血緣家庭組成，中期或後期，則由十戶左右的家庭組成。一個原始公社的成員大多以弧狀或環狀構築豎穴羣。弧狀或環狀的豎穴羣中央闢有召開公社會議、舉行集體活動和從事祭祀的場所。
繩文人的生產活動主要是狩獵、捕撈和採集。與這種活動相適應，生產技術也有明顯的提高。生產工具除石器外，尚有陶、木、竹、骨器。狩獵工具弓矢已廣泛應用。捕撈用的獨木舟及種種漁具的出土，表明繩文人已開始從事深海捕撈，並已使用網捕法。從出土的遺物分析，繩文人的食物種類非常廣。他們食用的植物達300種以上，魚類70餘種，貝類兩百餘種，陸地動物60餘種。
繩文人的生活隨着生產範圍的擴大日益改善。首先表現在生活方式逐漸由流動趨向穩定。早期的尖底深鉢陶器在中期以後被平底深鉢陶器所替代。原始的織布技術也已出現。裝飾品的製作技術達到了相當高的水平。考古發掘中用獸骨、魚骨、貝殼、玉石、竹木製造的精美飾物有大量發現。繩文人把自然物作爲崇拜偶像。
他們最崇拜的偶像是女性神。女性神被視爲豐產的象徵，避邪驅惡的神靈。繩文人還有屈肢葬和拔齒的風俗。儘管繩文文化對日本文化有着多方面的深遠影響，如語言、風俗、信仰崇拜等。但日本文化還是應被視爲在日本農耕社會確立之後開始形成的。
