1894年(清光緒二十年)8月20日生，陝西涇陽人。本名吳玉衡，乳名禿子。“玉衡”取自《書經》“陳璇璣之玉衡”之義，是北斗七星之一。1901年，祖母決定爲孫子改名，以破除不祥，增強體質。於是，請玉衡的姑丈，詩人陳伯瀾另取新名。這是吳家的大事，好酒好肉使主客如在節日之中，醉眼矇矓的姑丈在一張破紙片上寫出“陀曼”二字，吳玉衡也就變成了吳陀曼。吳宓之名是吳宓在1910年報考清華學校時自己所取。當時他隨手拿出石印本《康熙字典》，在某冊某頁，閉目確指，得一“宓”字，意爲安靜。吳宓的字“雨僧”多認爲出自南宋詞人蔣捷的詞《虞美人·聽雨》：“而今聽雨僧廬下，鬢已星星也。”一句。
1907就讀於三原宏道書院，受關學薰陶，與于右任、張季鸞同爲“關學”餘脈。1911考入北京清華學校(今清華大學前身)留美預備班。1912年春，清華學校因清廷倒臺，民國改制而暫時休學，時在上海聖約翰大學讀書的北方“鄉下人”吳陀曼，被一些小洋奴的子弟同學所譏笑，他們趁吳陀曼課間外出，便在黑板上寫下頗具諷刺意味的“糊塗men”。待吳陀曼進門，教室裏揚起一陣笑聲。他莫名其妙地環視四周，方發現在同學們的笑聲裏，是把“吳陀曼”與黑板上“糊塗men”連在一起。於是，他決定以後在發表言論的場合，用“吳宓”，而不用“吳陀曼”。1917年23歲的吳宓赴美國留學，先攻讀新聞學，1918年改讀西洋文學。先在弗吉尼亞州立大學英國文學系學習，獲文學學士學位。次年轉入哈佛大學研究生院，師從新人文主義文學批評運動領袖白璧德教授，研習比較文學、英國文學和哲學。與陳寅恪、湯用彤並稱爲“哈佛三傑”。留美十年間，吳宓對19世紀英國文學尤其是浪漫詩人作品的研究下過相當的功夫，有過不少論著。
1921年吳宓回國，即受聘在國立東南大學(1928年更名中央大學，1949年更名南京大學)文學院任教授，講授世界文學史等課程，並且常以希臘羅馬文化，基督教文化、印度佛學整理及中國儒家學說這四大傳統作比較印證， 開設“中西詩之比較”等課，開中國比較文學研究之先河。
吳宓在南京大學與梅光迪、柳詒徵一起主編於1922年創辦之《學衡》雜誌，11年間共出版79期，於新舊文化取徑獨異，持論固有深獲西歐北美之說，未嘗盡去先儒舊義，故分庭抗議，別成一派。這一時期他撰寫了“中國的新與舊”、“論新文化運動”等論文，採古典主義，抨擊新體自由詩，主張維持中國文化遺產的應有價值嘗以中國的白璧德自任。他曾著有《吳宓詩文集》、《空軒詩話》等專著。1924年赴瀋陽，任東北大學外國文學系教授。次年清華大學成立，吳宓任清華大學研究院主任，聘請當時學術界最負盛名的梁啓超、王國維、陳寅恪、趙元任等四位學者爲研究院導師，一時號稱得人。研究院被稱爲“國學研究院”，爲國家培養了不少優秀的國學人才。
吳宓離開東大後到東北大學、清華大學外文系任教授，1929年9月錢鍾書考入其父錢基博曾執教的清華大學外文系，成爲吳宓的得意門生，師生間常有詩詞贈答與唱和，然而1937年因錢鍾書一篇書評，師生關係曾緊張了多年。1928年，吳宓兼任天津《大公報·文學副刊》主編，他編古典文學，邀請清華大學中文系教授朱自清編新文學。1930年，吳宓赴歐洲旅遊，先後遊歷了英國、法國、意大利、瑞士、德國等許多國家，訪問了雪萊、司各特、盧梭等人的遺蹟。次年結束歐洲歸國，任清華大學外文系教授兼系主任。他按照哈佛大學比較文學系的方案創辦清華大學外文系。明確提出培養目標爲造就“博雅之士”。在他的努力下，清華大學外文系很快成爲國內第一流系科。
吳宓於1941年被教育部聘爲首批部聘教授。1943-1944年吳宓代理西南聯大外文系主任，1944年秋到成都燕京大學任教，1945年9月改任四川大學外文系教授，1946年2月吳宓推辭了浙江大學、河南大學要他出任文學院院長之聘約，到武昌武漢大學任外文系主任，1947年1月起主編《武漢日報·文學副刊》一年，其間清華大學梅貽琦和陳福田一再要他回去。至1949年廣州嶺南大學校長陳序經以文學院院長之位邀他南下，且其好友陳寅恪亦在嶺南，教育部長杭立武邀他去臺灣大學任文學院長，女兒要他去清華大學，而他即於4月底飛到重慶到相輝學院任外語教授，兼任梁漱溟主持的北碚勉仁學院文學教授，入蜀定居了。1950年4月兩院相繼撤消，吳宓到新成立的四川教育學院，9月又隨校併入西南師範學院歷史(後到中文系)任教。結果是虎落平陽，晚景甚爲不佳。
至“文革”到來，吳宓成爲西南師院批鬥的大罪人，以種種罪名蹲入“牛棚”，到梁平勞改，受盡苦難。76歲的老人幹不動重活，還被架上高臺示衆，頭暈眼花直打哆嗦，被推下來跌斷左腿。之後又遭斷水斷飯之折磨。腿傷稍好，即令打掃廁所。
1971年病重，右目失明，左目白內障嚴重，就只好讓他回重慶養病。1977年吳宓已生活完全不能自理，只好讓其胞妹吳須曼領回陝西老家終於使他得到了一些兄妹深情的照顧和溫馨，延至1978年1月17日病逝老家，終年84歲。1979年8月平反昭雪。1981年1月17日，吳宓的骨灰，由吳須曼送至安吳堡，葬在白雪籠罩的嵯峨山下。
吳宓終生從教，是一位傑出的教育家。在近半個世紀的教學生涯中，曾經培養出大批學有所成的知名文學家、語言學家、哲學家以及外國文學的研究和翻譯人才。當代著名學者錢鍾書、曹禺、李健吾、趙瑞蕻、張駿祥、季羨林、李賦寧、田德望、張君川、王岷源、劉盼遂、高亨、趙蘿蕤、謝國楨、徐中舒、姜亮夫、姚名達、王力、呂叔湘、向達、浦江清、賀麟、沈有鼎(以上爲清華大學時期)及王佐良、周鈺良、楊周翰、許國璋、趙瑞、王般、李鯨石、許淵衝、查良錚、何兆武、袁可嘉、金堤、杜運夑、李廷先(以上爲西南聯大時期)等人，都出自他的門下或受到他的教誨。
