李虎祖籍隴西成紀(今 甘肅秦安)，是 十六國時期 西涼開國君主 李暠(一作李皓)五世孫。李暠生 李歆，是西涼第二任君主，史稱西涼後主。李歆生 李重耳，李重耳在西涼滅亡後，出仕 北魏，官至弘農太守。李重耳生 李熙，官至金門鎮將，曾率領豪傑鎮守武川(今 內蒙古武川縣)，因而在武川定居安家。李熙生 李天錫(一作李天賜)，官至宿衛統兵的武官幢主。李天錫即李虎的父親。
李虎早年是太保 賀拔嶽的舊部。李虎少時倜儻，有大志，喜好讀書而不存章句，特別善於射箭，輕財重義，雅尚名節，因此深得賀拔嶽的器重。 元顥進入洛陽，李虎跟隨賀拔嶽將其平定。李虎因功受封晉壽縣開國子，食邑三百戶，官拜寧朔將軍、 屯騎校尉。後隨賀拔嶽擊敗万俟鬼奴，留鎮隴西，累次升遷至 東雍州刺史，不久改任 衛將軍。賀拔嶽鎮守隴右，任命李虎爲左廂大都督 (一作左軍大都督)，並將內外軍事委託給他。
永熙三年(534年)，賀拔嶽遭 侯莫陳悅殺害，李虎哭的很悲痛，諸將謀議擁戴 宇文泰，李虎不同意而星夜直奔荊州，勸說賀拔嶽之兄 賀拔勝來接收賀拔嶽手下的人馬，賀拔勝沒有接受他的意見。此時李虎聽說宇文泰已經代替賀拔嶽統率全體將士，便從荊州往回趕，路過 閿鄉的時候，被 高歡手下的將領俘虜，然後給送到洛陽。北魏孝武帝 元修正準備謀取 關中地區，得到李虎欣喜萬分，當即任命他爲衛將軍，並賜給他一大筆財物，派他到宇文泰那裏輔佐鎮守關中。 後與宇文泰平定侯莫陳悅，恰逢高歡進入洛陽，李虎率軍迎接北魏孝武帝到潼關，因功授任驍騎將軍，加任儀同三司。同年十二月，靈州(今寧夏靈武縣北)刺史曹泥謀反作亂，宇文泰派遣李虎與 李弼、 趙貴前往靈州攻打曹泥。
大統元年(535年)正月，宇文泰擁立 元寶炬登基稱帝，建立 西魏政權，是爲西魏文帝。同月，李虎等人招撫費也頭(一作破野頭)的兵馬，與他們一道攻打靈州，共持續四十天，曹泥堅守不住，於是請求投降。
李虎後來官至 左僕射、 太尉，賜姓大野氏。大統三年(537年)，李虎受封隴西郡公，與安定公宇文泰、廣陵王 元欣、趙郡公李弼、河內公 獨孤信、南陽公趙貴、常山公 於謹、彭城公 侯莫陳崇因有輔佐之功，故都成爲加“柱國”銜的最高武官，號稱“八柱國”。
大統四年(538年)，當時西魏與 東魏交戰，兩國佈置的軍陣非常龐大，頭尾相距很遠，從早晨到晚上，雙方一共交戰幾十次，直打得煙霧塵土四處瀰漫，相互都看不清楚。獨孤信與 李遠處在右面，趙貴與 怡峯處在左面，交戰過程中都失利，而且他們還不知道西魏文帝與丞相宇文泰身在何處，於是都扔下自己率領的士兵先跑回來。李虎與 念賢等人屬於後續部隊，看到獨孤信等人退卻，就和他們一道離開戰場。宇文泰因此只好燒掉營帳返回，留下儀同三司 長孫子彥鎮守金墉。
西魏此次攻打東魏，在關中地區留守的兵員很少，前前後後俘虜的東魏士兵都被分散在民間，他們一聽說西魏的部隊遭到失敗，紛紛圖謀作亂。李虎等人來到長安，想不出好的對策，便和太尉 王盟、僕射 周惠達等人侍奉太子 元欽出城，到渭北地區駐防。百姓們相互掠奪，關中地區驚擾得非常厲害。在 沙苑之戰中被俘虜的東魏都督趙青雀，雍州的百姓於伏德等人趁機造反，佔據長安所屬的小城，接着於伏德佔有咸陽，與咸陽太守慕容思慶各自召集東魏的降兵，以便抵抗從戰場上返回的西魏將士。長安主城中的百姓互相組織起來，共同抵抗趙青雀，每天同他交戰。大都督 侯莫陳順襲擊東魏的那些降兵，多次打敗他們，嚇得降兵們不敢出城。
大統十七年(551年)五月，李虎去世。 北周建立後，追封李虎爲唐國公，諡號襄。
隋文帝 楊堅擔任北周 相國時，還復李虎本姓李氏。 武德元年(618年)，李虎的孫子 李淵受禪登基，建立 唐朝，追諡李虎爲景皇帝，廟號太祖，陵墓稱作永康。
