首先，劉邦的廟號是太祖，而不是高祖。雖然後世多以漢高祖稱之，但高祖並非其廟號。劉邦的諡號爲高皇帝，漢高祖其實就是廟號和諡號的混合叫法。嚴格來說，這種叫法是不太正式的。
漢朝時往往以諡號稱呼皇帝，漢高祖的這種稱呼可能就是司馬遷的獨創。因爲首先這樣稱呼劉邦的是司馬遷的《史記》，由於這本皇皇鉅著的影響力太大了，所以後世便就隨了司馬遷的叫法。
一般開國皇帝的廟號都是太祖，但是也不一定。開國皇帝廟號爲太祖是有個前提的，那就是天下一定是他自己打下來的，並且基本沒有仰仗前代先人。如果開國皇帝出身世家大族，在成爲皇帝前身份就已經很顯赫了。取得天下借了前代很多光，那麼廟號就不太適用太祖了。唐高祖李淵就是這情況。
大唐的肇始之君的確是李淵，只是唐朝的建立李淵是依靠了不少家族勢力的。李淵的祖父李虎是西魏時期的權臣，是當時的西魏八大柱國之一，隴西郡公。李淵的父親李昞，也是北周時期的大臣。唐朝的基業跟李淵父祖兩代人的累積是分不開的。
所以李淵建唐後，其祖父李虎被尊爲皇帝，廟號唐太祖，諡號景帝;父親李昞也被尊爲皇帝，廟號唐世祖，諡號元帝。
至於趙匡胤、朱元璋廟號爲什麼是太祖，那就顯而易見了。雖然趙匡胤的祖上比朱元璋厲害些，但是北宋的得來完全靠的是趙匡胤的努力。朱元璋就更不用說了，和劉邦差不多，甚至還不如早期的劉邦容易呢。白手起家創建大明王朝，他這個太祖我覺得最匹配。中國古代的諡號、廟號制度雖然有一套完整的體系，但是在執行的時候往往也因人而異。這也就出現了，都是開國皇帝廟號不同的現象。原因其實也很簡單，皇帝和皇帝是不一樣的，有的能力大有的能力小罷了。
