祖冲之从小就表现出对数学和天文学的浓厚兴趣，他专攻数术，搜炼古今，但决不虚推古人，决不把自己束缚在古籍文献、前人成说之中。他敢于怀疑前人的陈腐学说，敢于推翻前人的错误理论，能批判地接受前人的科学遗产。

在青年时，他就对张衡、郑玄等人的学术成就进行了仔细研究，校正了其中的一些错误，取得了许多有价值的研究成果。后来他又发现著名天文学家何承天为当时宋王朝编写的历法存在许多错误，于是着手重编了新的历法《大明历》。