司馬，與漢朝的頂級官職“大司馬”一字之差，天壤之別。司馬，是一種佐官，位在長史之後，在各級官府中都有，品級地位也與其所在官府掛鉤，相差很大。當年滅秦後，項羽封十八路諸侯王，其中有三個秦朝降將就是雍王章邯、塞王司馬欣、翟王董翳。這三員秦將都是鉅鹿之戰與項羽交手的，章邯是主帥，司馬欣、董翳都是佐官，也就是章邯的副手，司馬欣爲長史，董翳爲都尉。
白居易當時是江州司馬，州一級的最高長官是刺史，除了刺史，還有別駕、長史，江州就是現在的九江，所以這個江州司馬大概相當於副市長。不過，通常來說，別駕、長史、司馬這些官職往往是看起來豪華卻沒有什麼實權的職位，常常成爲中央官吏被貶的首選職位。從這個角度來說，白居易的江州司馬，也可以類比市一級的位高權不重的閒差。
在唐朝官制中，每個州設有主官刺史，而副手則是長史、司馬，他們共同輔佐刺史行使職權。如果在此期間刺史缺位，長史、司馬也會代替主持州務，直到新刺史赴任。所以，司馬相當於每個州的二把手或者三把手，地位很高。按理說，白居易就是江州的最高行政長官之一。
唐朝立國後仍沿用隋朝的改革成果，但安史之亂後，藩鎮成了唐朝一大問題，衆節度使擁有自己招募幕僚的權利，同時這些藩鎮依靠自己手中的權利不斷干擾地方政府。這又完成唐朝地方政府的崩潰，他們的領導班子成了虛職。所以說白居易被貶爲司馬，也是個閒職，只能領份俸祿罷了，這也算是唐朝對被貶文人的一種優待。
