渾瑊是一位鐵勒族人，他的祖輩早已歸附唐朝。他的父親渾釋之也是一位名將，渾瑊自幼就跟隨父親接受薰陶和鍛鍊。當他剛滿12歲時，他便頂盔摜甲上了戰場，憑藉單騎衝鋒斬殺敵將，立下了軍中難得的“跳蕩功”。兩年之後，渾瑊又隨軍擊破了賀魯部，參與了石堡城之戰、收復龍駒島、大破阿布思部等戰役，不斷升遷，最終成為中郎將。不到20歲，渾瑊就名揚天下。
後來，安史之亂爆發，渾瑊先後跟隨李光弼、郭子儀、僕固懷恩等名將南征北戰。他參加了九門之戰、收復兩京之戰、新鄉血戰、平定史朝義之戰等大小數十戰，為平定安史之亂做出了重要貢獻。因此，他憑藉着這些戰功，成為了開府儀同三司、太常卿。
在早期軍旅生涯中，渾瑊跟隨郭子儀的時間比較長，兩人之間感情也比較深。他像對待父親一樣伺候郭子儀，從不説辛苦。冬天他甚至將郭子儀晚上用的夜壺帶着睡覺，保證郭子儀用的時候都是温的。郭子儀也被他的誠心、孝心所感動，將兵法韜略毫無保留地傳授給了渾瑊。
在削藩之戰中，發生了令人震驚的“涇原兵變”。起因説起來相當滑稽，朝廷為了抵禦李希烈叛軍進攻，緊急命令涇原節度使姚令言率領5000兵馬趕往長安駐守。沒想到涇原的將士們不但沒有得到他們期望中的賞賜，而且朝廷提供的飲食住宿條件也很差。於是，涇原的將士們越來越不滿，最終演變成了一場叛亂，援軍變成了叛軍。
渾瑊身先士卒，率領守軍與數萬攻城叛軍展開浴血激戰，打退叛軍無數次進攻，堅守奉天城一個多月。最終敵軍無奈退守，奉天城保住了。
