《史記·商君列傳》載：秦孝公十二年(前350年)，商鞅進行第二次變法，秦國頒佈了一批旨在封建變革的法令，其中一項重要內容就是把都城從櫟陽遷往咸陽，商鞅“作爲冀闕宮廷於咸陽，秦自雍徙都之”
。此處“宮廷”即秦國首都咸陽城中的王宮，自秦國統治者遷都咸陽後，它一直爲秦的歷代國君的大朝之地。秦始皇時在渭水南岸修築新朝宮——阿房宮，就是想取代渭北的朝宮——“先王之宮廷”，這處作爲王宮或皇宮使用的“宮廷”之名即“咸陽宮”。歷代秦王和秦始皇接見各諸侯國使臣、貴賓，爲皇帝祝壽舉行盛大國宴，與羣臣決定國家大事都在咸陽宮中進行。因此《三輔黃圖》稱咸陽宮“以則紫宮，象帝居”。
秦孝公十二年(前350年)，秦國遷都咸陽，“秦孝公築渭城，名咸陽宮。有四皓祠、安陵城、杜鄠亭、竇氏泉、周文王祠。”商鞅首先在城內營築冀闕，以後歷代秦王又增建了許多宮殿，至遲到秦昭王時，咸陽宮已建成。
《史記·秦始皇本紀》記載，秦始皇統一全國的過程中，“每破諸侯，寫放其宮室”，即秦國每滅掉一國，都要在在咸陽塬上仿建該國的宮殿，擴建皇宮，渭水北岸建成了各具特色的“六國宮殿”，“冀闕”、“甘泉宮”、“上林苑”等宮室145處、宮殿270座。各宮之間又以複道、甬道相連接，形成繁華的大都市。諸多典籍文獻都記載了咸陽宮的規模和盛況，《漢書》載：“秦起咸陽，西至雍，離宮三百”;《史記》雲：“咸陽之旁二百里內，宮觀二百七十”。
秦末，項羽攻入咸陽，屠城縱火，咸陽宮大半夷爲廢墟。
漢帝國建立後，定都長安，在政治體制、經濟制度、社會文化等各方面“漢承秦制”，反映出漢王朝對秦的繼承關係，這種繼承關係反映在秦漢社會的方方面面，在皇宮的建設中也得到了充分體現。漢長安“長樂宮”，是由秦的“興樂宮”改建而成，“未央宮”爲秦“章臺”改建，“桂宮”爲秦“甘泉宮”改建。
北周時期，咸陽宮仍然頗具規模，《周書·帝紀第七》記載：“壬午，幸(中)山祈雨。至咸陽宮，雨降。甲申，還宮。令京城士女於衢巷作音樂以迎候。”
唐代，李吉甫編纂的地理總志《元和郡縣圖志》記載了當時咸陽宮的狀況：“渭水南有長樂宮，渭水北有咸陽宮……”
唐末，由於軍閥混戰，咸陽宮隨着長安城的大規模破壞最終完全毀滅。
