祖沖之生活的年代是公元5世紀。當時已經有相當先進的歷法。古人依照月亮變化運行的規律，把第一次見到月圓到第二次見到月圓之間的時間，規定爲一個月。這個月大約是二十九天多一點。一年十二個月，這就是我們中國人採用的陰曆。同時，人們經觀測，掌握了四季變化與太陽的關係，並將這變化的一個週期定爲一年，這就是人們常用的陽曆。陰陽曆相比較，陽曆一年的天數比陰曆長11天多。爲了解決這個問題，把這兩種運算天數的歷法統一起來，古人用“19年7閏”的辦法，也就是說19年中規定了7個閏年。12個月爲一年的稱爲“平年”，13個月爲一年的稱爲“閏年”。這就是“閏月法”。祖沖之經過仔細推算，發現這個閏法每過200年就會相差一天。因此，他打破傳統觀念，反覆計算，精確地得出了每391年中加上144個閏月的新閏法。公元462年，祖沖之經過多年的查閱、比較和研究古代天文曆法方面的資料，進行了多次的科學實驗，終於製成了《大明曆》，打破了我國沿襲很久的“19年7閏”的老閏法，這一年他才33歲。祖沖之在曆法計算中還第一次應用了東晉天文學家虞喜發現的歲差原理。所謂歲差，是指地球圍繞太陽運行一週，不可能完全回到原來位置的現象。他進行了“交點月”方面的研究，爲準確地推算出日食、月食的發生時間提供了條件，這是他在天文、曆法方面的又一個創舉。祖沖之應用這個原理精確地計算出一回歸年是365.24284481日，同近代科學測量相比一年只差50秒，這在天文曆法史上是一個重大的進步。他所編制的《大明曆》，是當時最精密的歷法，並且在公元510年，被當時的統治者確定爲通用的歷法。一直到南宋的《統天曆》，才採用了比這更精確的數據。
《大明曆》完成後，遭到了當時執掌朝政內務和機要的重要官員戴法興的反對。爲此，祖沖之同戴法興等人進行了不屈不撓的鬥爭，並寫了《辯戴法興難新曆》這篇有名的文章。在文章中，他用鐵一般的事實駁斥了戴法興這個頑固守舊分子無中生有的刁難。這篇文章送到皇帝后，經過祖沖之的幾番催促和以巢尚之爲首的大臣們幾番說服，最後，皇帝總算做出了決定。決定說：定於大明九年(公元465 年) ，在改革年號的同時，改行《大明曆》。 這一消息傳來，祖沖之高興得幾乎要流出眼淚，自己這十年來風餐露宿的觀測、 研究總算沒有白費，自己總算是做了點無愧於祖先、 有利於後人的事，作爲一個搞學問的人，除了這個還有什麼奢望呢 ? 可是，好事多磨，正當祖沖之沉浸在勝利的喜悅之中，準備更加發奮，再創新的成果時，宋孝武帝突然病死，那時正是公元 464 年的 5 月，離《大明曆》的實施還有一年的時間。宋孝武帝的屍骨未寒，一場爭權奪位的惡戰就在繼承者們之間展開了。處於這一種局勢，哪還有什麼人顧得上過問改歷的事呢 ? 就這樣，《大明曆》被打入冷宮，直到十八年後才又被人提起。那是齊武帝蕭賾當政時期，他的兒子蕭長懋看到《大明曆》，覺得很有意思和道理，要求父王恩准實施。但建議提出不久，太子和齊武帝二人便相繼去世，事情又被擱置下來。這年祖沖之已經五十一歲了。直到公元510 年，由其兒子祖日 恆提議實行《大明曆》，得到當朝皇帝蕭衍的批准，這才得以實施。而此時，祖沖之已長眠於地下十餘年了。
