至少從傳說中的有巢氏教人構築房屋時起，漢族人就習慣居住在土木建成的房屋裏。
惟一的例外是，當大軍遠征時，只得在曠野上臨時搭起的帳篷內休息。這種帳篷，古代即稱“幄幕”。
漢朝時統帥率軍出征，有權自行招聘、選任文職僚屬，設置府署，幫助處理軍政事務，稱爲“開府”。由於這類府署設於幄幕中，所以又叫“幕府”，而統帥左右的僚屬，也因之被稱爲“幕僚”、“幕職”。幕僚種類繁多，有相當於近代參謀長、統帥司令部工作的“長史”;有參議軍機，幫助指揮軍事行動的“參軍”;有類似近代副官、祕書，管理文書及各類檔案的“主簿”、“記室”，等等。
到了三國兩晉南北朝時，戰亂頻仍，四處皆爲戰區，各地都實行“軍管”，地方長官由武官兼任，將軍左右的僚屬也就從單純的軍官轉變爲輔將軍“上馬管軍、下馬管民”的文武兼任官職了，且文職比重往往超過武職。這一習慣傳到唐宋時代：唐代地方最高行政機關州、府衙門都設有長史、參軍、錄事等官職，號稱“幕僚”;宋代諸州也專設“幕職官”。不過這些官職早已與軍事行動無關，也不供職於狹義的幕府。
直到明清時期，狹義的幕僚仍指服務於軍事機構的文職官員。如明代小說《初刻拍案驚奇》卷二十六《奪風情村婦捐軀假天語幕僚斷獄》中的“幕僚”，指四川省都指揮使司(一省最高軍事長官及其指揮機構)下屬的斷事官(軍事審判官)，當時這位斷事官正代理四川成都府汶川縣縣官的職位。
幕僚現象的再度興盛：當老闆的自己花錢聘用私人，我做官，你做事;又因爲你是我花錢僱來的，所以你做事，我放心，也成了“自家人”。幕僚一般都有專門知識，甚至可能是“最新的知識”，在某個專業領域佔有許多資料，瞭解許多情況，他們飽讀專業經典，說起來頭頭是道，寫起來洋洋灑灑，出謀劃策，無所不能。但是由於其角色的特殊性，地位的曖昧性決定了其進退榮辱都將取決於是否能取悅在朝者，由此他在進言時便會不言而喻地考慮自身的處境、前程之類，要想做到直言無忌本已很難，加上每個人知識、見識、思想、眼光等的侷限性，他們的建議、意見便有了許多的水份。
