從秦初到清末，“縣”一直是我國最基礎的行政單位。在漢唐，一縣之長叫做縣令，明清叫知縣，而兩宋，有時叫知縣，有時叫縣令。
雖然同爲基層行政單位，但是縣也有大小，大縣比小縣轄區大、人口多、事務繁忙，小縣的縣令自然不能和大縣的平起平坐。爲了區別對待，西漢時期將萬戶以下的縣令稱作縣長，萬戶以上的才叫縣令。
從東漢開始，縣長這個官名逐漸消失，一縣之長都叫做縣令。明清時期，基層行政單位雖然依舊是縣，但已經沒有縣令這個稱呼了，一縣之長改稱知縣。在宋朝，縣令和知縣兩職並行。後來知縣取代了縣令，成爲縣級長官的正式稱謂。從明朝開始，縣令正式推出了官名的稱呼，知縣成了唯一的稱呼。
但是知縣和縣令的權責也不盡相同。秦漢時期，縣級機構的職能和架構都模仿中央，縣令不但負責治安、稅收、訴訟等行政職責，還有一定的軍權。到宋朝，縣令下還轄有吏、戶、禮、兵、刑、工六房。明清時期，知縣的最大職責就是稅收，治安和訴訟有很大一部分被剝離給了鄉村縉紳。
