公元111年 ,张衡被召到京城,先后担任了郎中、太史令和公车司马等职。其中,担任太史令时间最长,前后达十四年之久。太史令是掌管天文、历法、气象以及朝廷祭祀等事务的官职,这为张衡从事天文历算研究提供了更便利的条件。

张衡经常观察日月星辰,探索它们在天上的运行规律,然后又对天文、历算进行了研究,最后写成天文学巨著——《灵宪》。《灵宪》书中阐述 了许多天文现象。他认为月亮本身不发光而是反射太阳的光,所以月亮的位置和太阳相对时,出现了满月;背着太阳的时候,月亮就不见了。他从日、月、地球所处的不同位置,对日食和月食的成因,做出了最早的科学解释。书中还记录了他在洛阳观察到的恒星二千五百颗,这和近代天文学家所观察到的星数2500~3000颗之间基本相同。

公元117年,张衡创造出世界上第一架观测天象的“ 浑天仪”。人们坐在屋子里,便能从浑天仪上“看”到天体运动的情况。
东汉时期,地震比较频繁。张衡为了掌握各地的地震动态,经过多年研究,终于在公元132年制成了世界上第一架探测地震方位的仪器——地动仪。

公元138年2月3日.地动仪西方龙嘴里的铜球忽然落了下来,可是住在洛阳的人丝毫没有感到有地震,有些学者便开始怀疑地动仪是否灵验。没过几天,陇西便来人报告那里发生了地震,大家这才相信了地动仪的准确性。欧洲的第一架地动仪是1880年制成的,比张衡的地动仪要晚一千七百年。

张衡还创造出一种测定 风向的仪器——相风铜鸟。 欧洲的候风鸡是公元12世纪才出现的,比相风铜鸟晚了整整一千年。他还制造了当时在传说中才有的指南车。

张衡不仅是一位伟大的科学家,还是位好官。张衡做侍中的时候,因为与皇帝接近,宦官们怕张衡在皇帝面前揭他们的短,就在皇帝面前讲了张衡很多坏话。皇帝就把他调离了京城,派到河间去当国相。由于河间是诸侯王的封国,不遵守朝廷的法律,社会治安相当混乱,百姓生活异常艰难,张衡到任后严明律法,执法如山,迅速打击了违法犯罪活动,使治安情况大为好转,人们纷纷夸奖张衡是个好官。张衡任职期内,河间一片太平,无人闹事滋扰,监狱空荡无人。
公元139年,张衡因病去世,终年六十二岁。