民国17年，日人创设了台北帝国大学(为台湾大学的前身)。当时仅有理农学部，并没有物理系。而化学系由于必修普通物理，便设立了一个「物理学讲座」的研究室。
光復后，由戴运轨教授接收「物理学讲座」，于民国35年成立物理学系，又于民国49年、58年先后成立物理研究所硕士班以及博士班，是国内在物理方面，从事学术研究及人才培育，历史最久、造就菁英最多的单位。
民国90年2月，物理系暨研究所迁至『物理学系暨凝态科学研究中心』。有感于天文物理可以说是人文气息最为丰富之自然科学领域，也可以说是人类基于对宇宙与大自然之好奇衍生出来之最古老的科学，天文物理可以成为人文与科学对话之最佳桥樑，物理学系于民国92年成立天文物理研究所，而后为寻求应用物理领域的开拓，为使学术研究成果落实到产业应用的层次，物理学系又于民国97年成立应用物理研究所以便达到学术研究与产业科技密切结合的目标，并为国家储训前瞻性高科技产业人才。
