张衡是一位具有多方面才能的科学家。他的成就涉及到天文学、地震学、机械技术、数学乃至文学艺术等许多领域。
张衡在天文学方面有两项最重要的工作——著《灵宪》，作浑天仪。此外，在历法方面也有所研究。
《灵宪》是张衡有关天文学的一篇代表作，全面体现了张衡在天文学上的成就和发展。原文被《后汉书·天文志》刘昭注所征引而传世。文中介绍的天文学要点如下：
他认为宇宙是无限的，天体的运行是有规律的；月光是日光的反射，月蚀起因于地遮日光，月绕地行且有升降。他认识到太阳运行(应是地球公转)的某些规律，正确解释了冬季夜长、夏季夜短和春分、秋分昼夜等时的起因。他指出在中原可以见到的星有2500个，与今人所知略近。他经过对某些天体运转情况的观测，得出一周天为三百六十五度又四分度之一的结论，与近世所测地球绕日一周历时365天5小时48分46秒的数值相差无几。
博通经籍
张衡的家族世代为当地的大姓。他的祖父张堪，自小志高力行，被人称为圣童，曾把家传余财数百万让给他的侄子。光武帝刘秀登基后张堪被任命为蜀郡太守，随大司马吴汉讨伐割据益州的公孙述，立有大功。其后又领兵抗击匈奴有功，被拜为渔阳太守。曾以数千骑兵击破匈奴来犯的一万骑兵。此后在他的任期内匈奴再也没有敢来侵扰。他又教人民耕种，开稻田八千顷，人民由此致富。所以，有民谣歌颂他说：“张君为政，乐不可支。”张堪为官清廉。伐蜀时他是首先攻入成都的，但他对公孙述留下的堆积如山的珍宝毫无所取。蜀郡号称天府，但张堪在奉调离蜀郡太守任时乘的是一辆破车，携带的只有一卷布被囊。
张衡像他的祖父一样，自小刻苦向学，少年时便会做文章。16岁以后曾离开家乡到外地游学。他先到了当时的学术文化中心三辅（今陕西省西安市一带）地区。这一地区壮丽的山河和宏伟的秦汉古都遗址给他提供了丰富的文学创作素材。以后又到了东汉都城洛阳。在那儿，他进过当时的最高学府太学，结识了后来著名的学者崔瑗，与他结为挚友。张衡兴趣广泛，自学《五经》，贯通了六艺的道理，而且还喜欢研究算学、天文、地理和机械制造等。但在青年时期，他的志趣大半还在诗歌、辞赋、散文上，尽管他才高于世，却没有骄傲之情。平常从容淡泊，不喜欢与俗人相交。
步入仕途
汉和帝永元（89年—105年）年间，张衡被推举为孝廉，但他没有接受，公府几次征召也不到。当时，国家太平日久，自王侯以下，没有不奢侈过度的。张衡于是仿照班固的《两都赋》，殚精竭思十年，才作成《二京赋》，用以讽谏朝廷。大将军邓骘欣赏张衡的才华，多次征召他，张衡都不应命。
公元100年（永元十二年），张衡应南阳太守鲍德之请，作了他的主簿，掌管文书工作。八年后，鲍德调任京师，张衡即辞官居家。
职掌太史
张衡擅长机械，特别用心于天文、阴阳、历算。平常喜爱扬雄的《太玄经》，对崔瑗说：“我看《太玄》，才知道子云（扬雄字）妙极道数，可与《五经》相比，不仅仅是传记一类，使人论辩阴阳之事，汉朝得天下二百年来的书啊。再二百年，《太玄经》就会衰微吗？因为作者的命运必显一世，这是当然之符验。汉朝四百年之际，《玄》学还要兴起来的呢。”汉安帝早就听说张衡善术学，公元111年（永初五年），张衡被朝廷公车特征进京，被拜为郎中，再升任太史令。于是研究阴阳，精通天文历法，制作浑天仪，著有《灵宪》、《算罔论》，写得较为详细明白。虽然在汉顺帝即位初年再调动它职，但后来又任太史令，张衡任此职前后达14年之久。他许多重大的科学研究工作都是在这一阶段里完成的。
张衡不慕当世的功名富贵，担任官职，往往多年都不得迁升。自从离开史官的职务五年后，又回到原职。于是设客问体，作《应问》来表明自己的心迹。当时，政事渐衰，宦官干政。张衡于是上疏陈事，劝谏顺帝。
外出国相
公元133年（阳嘉二年），张衡升任侍中，顺帝任用他在自己身边对国家的政事提出意见。顺帝曾询问张衡天下所痛恨的人。宦官们害怕他说自己的坏话，都用眼睛瞪着他，张衡便用一些不易捉摸的话回答后出来了。但宦官还是担心张衡以后会成为他们的祸害，于是群起毁谤张衡。张衡常想着如何立身行事。认为吉凶祸福，幽暗深微，不易明白，于是作《思玄赋》，以表达和寄托自己的情志。
公元136年（永和元年），张衡被外调任河间王刘政的国相。刘政骄奢淫逸，不遵法纪；又有不少豪强之徒，纠集在一起做乱。张衡到任后，严整法纪，打击豪强，暗中探得奸党名姓，一时收捕，上下肃然，他为政以清廉著称。任职三年后，张衡上书请求辞职归家，被征召拜为尚书。
公元139年（永和四年），张衡逝世，享年六十二岁。
公元1009年（宋徽宗大观三年），张衡因算学方面的成就被北宋追封为西鄂伯。
后世称张衡为“木圣”科圣）。为了纪念张衡的功绩，联合国天文组织于1970年将月球背面的一个环形山命名为“张衡环形山”，又于1977年将小行星1802命名为“张衡星”，2003年，国际小行星中心为纪念张衡及其诞生地河南南阳，将小行星9092命名为“南阳星”。