竇懷貞年輕時很有聲譽，衣服儉素，不好玩樂，曾擔任清河縣令，政績顯著。後來，他歷任越州都督、揚州大都督府長史，以清廉幹練著稱。
依附韋氏
706年(神龍二年)，竇懷貞升任御史大夫，兼檢校雍州長史。當時，韋皇后及安樂公主幹預朝政。竇懷貞卻諂媚逢迎，還改名從一，以避韋皇后之父韋玄貞的名諱，自此名聲漸損。後來，竇懷貞又娶韋皇后的乳母王氏爲妻，並以國赩(赩指乳母的丈夫)自居。
當時，宦官勢大，竇懷貞對宦官尤其敬畏，每遇審案，見到沒有長鬍須的，便懷疑是宦官。707年(景龍元年)，監察御史魏傳弓欲彈劾內常侍輔信義。竇懷貞道：“輔常侍深受安樂公主信任，你怎敢彈劾他?”魏傳弓道：“這些人敗壞王綱，若能殺了他，死也無恨。”竇懷貞雖無言以對，但仍極力勸阻。
710年(景雲元年)，李隆基發動唐隆政變，誅殺韋皇后、安樂公主等人。竇懷貞聞變，親手將妻子殺死，持首級向相王李旦請罪。不久，李旦繼位，是爲唐睿宗。竇懷貞被貶爲濠州司馬，後又改任益州長史，並恢復原名。
擔任宰相
711年(景雲二年)，竇懷貞被召回朝中，任殿中監，後升任左御史大夫、同中書門下平章事，封中山縣公。九月，他又改任侍中。當時，太平公主幹涉政務，竇懷貞便依附於她。每次退朝都要到公主府中請安。
後來，唐睿宗爲金仙公主、玉真公主營建道觀，耗費數萬。羣臣爲此勸諫不止，惟有竇懷貞極力贊成，還親自監督造作。族弟竇維鍌勸道：“您身爲宰輔，應該考慮怎麼輔佐天子，怎能整日做這些事情?”竇懷貞不答，仍舊監督工事。
十月，唐睿宗登上承天門，道：“如今朝廷政教存在很多缺陷，各地水旱成災，國庫日趨枯竭，官吏日益增多，這雖是朕德行淺薄所致，也和諸位宰相不稱職有關。”於是將韋安石、郭元振、竇懷貞、李日知、張說五人同時罷相。竇懷貞被貶爲左御史大夫。
712年(先天元年)，竇懷貞再次拜相，擔任同中書門下三品，兼太子詹事，並監修國史。七月，相士對竇懷貞道：“你將有災難。”竇懷貞大懼，請求解除官職，入安國寺爲奴。唐睿宗雖同意，但不久又任命他爲尚書右僕射兼御史大夫，平章軍國重事。
自縊而死
同年八月，唐睿宗禪位於太子李隆基，是爲唐玄宗。竇懷貞升任尚書左僕射，並進爵魏國公。
當時，太平公主權傾朝野，七位宰相有五人出自她的門下，朝中文武大臣也大都依附於她，由此萌生野心，與竇懷貞、岑羲、蕭至忠、崔湜及太子少保薛稷、雍州長史李晉等人密謀廢立。
713年(開元元年)七月，太平公主定於四日起兵作亂，命左羽林大將軍常元楷、右羽林將軍李慈率軍闖入武德殿，又命竇懷貞與蕭至忠、岑羲在南衙舉兵響應。結果尚未行動，消息便已泄露。
唐玄宗聞變，命龍武將軍王毛仲率軍由武德殿進入虔化門，斬殺常元楷、李慈。蕭至忠、岑羲也在朝堂中被擒獲、斬殺，竇懷貞逃入溝中，自縊而死。唐玄宗命人將竇懷貞的首級斬下，又將他改爲毒姓。
軼事典故
景龍二年除夕，唐中宗夜宴羣臣。他對竇懷貞道：“聽說你夫人去世已久，朕今日爲你選了個新夫人。”竇懷貞拜謝不止。不久，內侍舉着燭臺、錦帳、宮扇等一應器具從西廊走出，宮扇的後面站着一個新嫁娘。唐中宗讓她與竇懷貞對坐，又命竇懷貞賦《卻扇詩》。宮扇移開後，竇懷貞才知道這個新娘是蠻婢出身的皇后乳母王氏。唐中宗大笑，封王氏爲莒國夫人，把她嫁給竇懷貞。當時，乳母的丈夫被稱爲阿赩，竇懷貞此後每次寫奏疏都落款“皇后阿赩”。人們都譏諷的稱他爲國赩，竇懷貞非但不慚愧，還欣然接受。
