许衡是中国十三世纪杰出的“思想家、教育家和天文历法学家”，是元代初期的名臣，也是一位著名的学者。他鉴于当时干戈扰攘，民生凋敝的势态，一再向元世祖建议要重视农桑，广兴学校，以“行汉法”作为“立国规模”。他说：“古今立国规模，虽各不同。然其大要，在得民心。而考之前代，北方奄有中夏，必行汉法，乃可长久。故魏、辽、金能用汉法，历年最多。其他不能用汉法者，皆乱亡相继。史册具载，昭昭可见也。”从而可知，许衡的政治理想是要实行儒家的仁政以获得民心。至于获得民心的关键，则在于实行“汉法”。由于这一“立国规模”的确定，中原广大地区社会秩序得到恢复，生产得到发展，人民生活得到安定。许衡还与刘秉忠、张文谦等一起定官制、立朝仪，对元初政局稳定、经济生产的恢复起了积极作用。
许衡长期担任国子监祭酒，主持教育工作，承宣教化，不遗余力。许衡以“乐育英才，面教胄子”为宗旨，故其门下不仅有大批汉族学生，还有不少蒙族弟子。他施教的原则是“因觉以明善，因明以开蔽”，即循循善诱，潜移默化。至元八年（1271年），许衡奉元世祖之命，负责培养一批蒙古贵族子弟，在他的辛勤教育下，这些不懂汉文的青年也都成为“尊师敬业”的优秀儒生。其中有不少人，后来“致位卿相，为一代名臣”。众多弟子如姚燧、耶律有尚等皆学有成就。
许衡对待学生“爱之如子”，从生活到学习无不关怀备至。他对待自己则从严要求，“夜思昼诵身体力行，言必揆诸其义而后发”。因此，在许衡的熏陶教育下，“数十年间彬彬然，号称名卿士大夫者，皆出其门下矣。”所以，许衡通过传道授业，对于汉、蒙文化的融合和交流作出了卓越的贡献。
元世祖即位后，许衡还与刘秉忠等“立朝仪”、“定官制”，完善元朝官员品阶等级。筹划立国规模，上书言立国“必行汉法”。
许衡精通天文、历算。至元十三年（1276年）元世祖“以海宇混一，宜协时正日”，故须摒弃沿用已久舛误甚多的金代（大明历）而创制新历。于是，遂命许衡“领太史院事”，全面负责这一工作，并以王恂、郭守敬为副，共同研订。经过全们的积极努力，至元十七年（1280年），终于完成了这一艰巨复杂的任务。在此期间，许衡以年届七旬的高龄，辛劳擘划，艰苦备尝。创制了简仪、仰仪、圭表、景符等天文仪器，在全国各地修建27所观测台，进行实地观测。制订了《授时历》。他用近世截元法代替了上元积年法，并推算出了365.2425日为一年，这个结论，比地球围绕太阳公转一周的实际数字只差26秒，比欧洲著名的《格列高利历》还要早三百年。《授时历》使用的时间，前后达363年（1281年—1644年）之久，是中国历史上使用时间最长的一部历法，也是中国历法史上的第四次重大改革。明初著名学者宋濂赞扬道：“至元十三年，世祖诏前中书左承许衡、太子赞善王恂、都水少监郭守敬改订新历，……自古及今，其推算之精，盖未有出于此者也。”这是十分中肯、公允的评价。
许衡对汉蒙文化交流，程朱理学传播和朱陆合流有较大影响。与姚枢、窦默等讲程朱理学，“慨然以道为己任”。他对程朱理学的研究有其独到之处，提出了“命”、“义”之说。许衡精研程朱理学而不拘泥，提出了著名的“治生论。”他说：“言为学者，治生最为要务。”许衡是元代儒学的主要继承人和传播人。元代有人赞扬他说，“继往圣，开来学，功不在文公下。”明代大儒薛瑄则称其为“朱之后一人”。
许衡在哲学上，称世界本原是“独立”的“道”。认为“道”生“太极”，“太极”函“一气”﹔“气”具阴阳，由此化生天地万物，而其中又以人为灵贵。他又称太极是理﹑天理，说“有是理而后有是物”，“无理则无形”，认为形而上之理是世界根源。在论到天地万物时，认为“万物皆本于阴阳，要去一件去不得”。万物皆有刚柔﹑动静﹑内外诸矛盾。每一矛盾双方都相济相胜，“天下事，常是两件相胜负，从古至今如此”。但他认为，矛盾发展最终“以静为主”，止于无对﹑静止的状态，又表现了形而上学的思想倾向。
在心性问题上，许衡认为人禀赋天理即天命之性。人性本善，是本然之性。但人禀气有清浊之不同，故又有气质之性。通过静时“存养”﹑动时“省察”的修养方法，能使“气服于理”，复见天理。他还提出心与天同的天人合一论，强调“反身而诚”﹑“尊德性”等自省自思的认识和修养方法，认为这样就可以尽心，知性，知天。 许衡哲学虽本于程朱，但不重玄奥“隐僻”之理，而强调道德践履。他说，“道”在日用行事中，不是高远难行之事，并提出“盐米细事”也应当讲究。这在客观上有一定积极意义。
好学不倦
许衡于金卫绍王大安元年（宋宁宗嘉定二年、元太祖四年）四月初三（1209年5月8日）出生在新郑县城西阳缓里，祖籍怀庆路河内县沁北村人，后为避战乱，许衡父母才迁居到新郑。
据《元史》、《许文正公遗书》、《许文正公世家谱》、《元朝名臣事略》、《元文类》、《蒙兀儿史记》等史料记载，许衡家族世代务农，但他自幼勤读好学，天资聪颖，七岁时入学，曾问老师为何要读书，老师答曰：“为了考科举。”许衡又问：“仅仅是这样？”老师大为惊异。以后每次讲书，许衡都要问个究竟，以致老师对其父母说：“令郎聪敏过人，我不能胜任，请别求名师。”辞馆而去。像这样连换了三位老师。长大后更加好学，因家贫无钱购书，常涉百里借书抄书。他曾在一个算命先生家中看到一部解释《书经》的书，便去手抄回来细读，后来逃难到徂徕山才得到一部王弼注释的《易经》。当时虽兵荒马乱，许衡仍坚持日读夜思，且身体力行。
天兴二年（1233年），蒙古兵临新郑县，许衡同众人从洛阳渡河经河阳（今孟县）返乡。
此后，许衡相继至鲁、魏之地，在魏三年后又回到怀庆路，后又常来往于河、洛之间，在柳城从姚枢处得到程颐、程颢及朱熹的著作，从中获益甚大。后移居辉县附近之苏门山时，常与姚枢及窦默讨论学问，内容涉及经传、子史、礼乐、名物、星历、兵刑、食货、水利等众多话题。许衡曾说：“纲常伦理国家一日不可废，如果在上者不履行，我们一般人也要履行。”他在实际生活也正是这样做的。许衡曾赴河北大名府讲学，由于恭谨执教，求学的人很多，并匾其斋为“鲁斋”，从此号称“鲁斋先生”。
屡起屡归
元宪宗四年（1254年），忽必烈受封于秦中，召许衡为京兆提学，许衡在京兆的郡县广建学校。忽必烈南征时，许衡返归怀庆，京兆学者挽留不住，只得送至临潼而归。
中统元年（1260年），忽必烈即位，召许衡、姚枢至京师。当时王文统为平章政事，在讨论治国安邦之道时，文统重利，而许衡等人认为必须以义为本，招致王文统忌恨，再加上窦默在忽必烈面前说王文统学术不正，王文统怀疑三人是一派，便奏请委任许衡为太子太保、姚枢为太子太师、窦默为太子太傅，表面上是尊敬重用他们，实际上是使其不能接近忽必烈。后又改命许衡为国子祭酒、姚枢为大司农，窦默为翰林侍讲学士。不久，许衡因病辞官返乡。
至元二年（1265年），忽必烈任命安童为右丞相，打算让许衡辅助安童，便召许衡至京师，命他参预中书省政务。许衡上疏治国纲要五项建议，忽必烈大为称赞，并一一采纳。许衡平时奏议很多，但他不留底稿，留传下来的仅此一件。
至元四年（1267年），许衡因病归怀庆休养，至至元五年（1268年）又被召回，他的奏疏仍秘而不传。
至元六年（1269年），忽必烈命许衡与太常卿徐世隆制定朝廷礼仪制度，与太保刘秉忠、左丞张文谦立定官制。许衡参考历代官制体系，减去一些临时增设机构和旁设机构，于至元七年（1270年）上奏。其中涉及到一些权贵的利益，有人劝他不要变更旧制。许衡说：“我所论的是国家的体制，与个人无关。”他的建议得到忽必烈赞同。不久，阿合马任中书平章政事，统领尚书省及六部，权势很大，一些大臣阿谀奉承，但许衡与阿合马争论时，坚持原则，从不让步。不久，忽必烈任命阿合马的儿子为枢密佥院官，众人都附合，唯独许衡不同意，对忽必烈说：“国家大权在于兵、民、财三个方面，如今阿合马掌管民、财，其子又掌管兵权，这不行。”此后许衡随忽必烈到上京时，又列举阿合马专权欺上，损国害民的众多事项，但未得上报给忽必烈。许衡因此称病，请求不参与国家机务大事。
传播儒学
忽必烈早有立太学的打算，于至元八年（1271年），任命许衡为集贤大学士兼国子祭酒，并亲自挑选蒙古子弟交于许衡教育，许衡请求征调其弟子王梓、刘季伟、韩思永、耶律有尚、吕端善、姚燧、高凝、白栋、苏郁、姚火敦、孙安、刘安中等十二人为伴读。这些蒙古子弟年幼，许衡关爱他们如同对自己的儿子一样，但对于师徒等级关系的严格，就像君臣关系一样。除熟读诗书外，他还演习各种礼仪。这些学生尊师敬业，均知三纲五常为人之道。
至元十年（1273年），因权臣屡次破坏汉法，致使学生缺粮，许衡便请求辞职返回怀庆故里，翰林学士王磐对忽必烈说：“许衡教人有方，诸生学后可以从政，这是国家大体，不要让他辞去。”但由于窦默为许衡恳求，忽必烈还是让许衡还乡，以赞善王恂代管太学事务。刘秉忠等奏请以耶律有尚、苏郁、白栋等为助教，保持原许衡所制定的教学规矩，忽必烈同意。
制定新历
元朝自取得中原后，采行金朝的《大明历》，但该历法不精确，世祖于至元十三年（1276年）令王恂制定新历。王恂认为一般历家只知历数不知历理，奏请许衡回京以集贤大学士兼国子祭酒来主持太史院事。许衡与太史令郭守敬等合作，研制新观象仪，经细密观测，参照旧有历法，剔除其中错误，于至元十七年（1280年），制成新历，忽必烈赐名为《授时历》，颁行天下。
生荣死哀
至元十七年（1280年）六月，许衡因病请归怀庆休养。
元至元十八年三月初三（公元1281年3月23日），许衡辞世，时年七十三岁。于同年四月二十（5月9日）下葬。许衡作古后，怀庆人无论贵贱长幼皆为之恸哭。四方学者闻讯相聚哀哭，更有不远千里奔赴墓前致吊者。
大德元年（1297年），元成宗铁穆耳追赠许衡为荣禄大夫、司徒，谥号“文正”。
至大二年（1309年），加赠正学垂宪佐运功臣、太傅、开府仪同三司，追封魏国公。
皇庆二年（1313年），朝廷下诏以许衡从祭孔庙。延祐初年，又诏立书院于京兆，以祭祀许衡，并赐田做祭祀的经费，书院名“鲁斋书院”，鲁为许衡居魏时的书斋名。
许衡的品德言行大为人们推崇，被后人誉为“元朝一人”。