安帝早知张衡“善术学”，就于永初五年（公元111年）以公车特请他到京都来，给以亲近的郎中职位。这时（前一年）朝廷刚成立一个校订典籍的组织，“诏谒者刘珍及《五经》博士，校定东观《五经》、诸子、传记、百家艺术，整齐脱误，是正文字”。东观在洛阳南宫，是皇家的藏书处。当时有名的学者如马融、窦章等都在这里，为校书郎。张衡没有在东观校书，他由郎中迁为尚书郎，再迁为尚书侍郎。元初二年（公元115年）又迁为太史令，这年他三十八岁。这个职官主管天文、历法等等，对他是合适的，他在这方面早有修养，新任职守又给他创造了进一步钻研的条件。这样，从理论到实践，他就不断地有所贡献了。张衡第一次为太史令共六年。经过公车司马令五年的转折，从顺帝永建元年（公元126年）再为太史令，又七年。前后十三年的专业职守，使他的科学事业日益巨大而显著。顺帝阳嘉元年（公元132年）即复为太史令的最后一年，他发明了“候风地动仪”，即地震仪。这是世界上地震仪的鼻祖。此事载之《后汉书?安帝纪》，可见当时受到的重视。

作为科学家和文学家的张衡，并不是不关心政治的。顺帝时，尚书令黄琼上疏言事，颇致力于腐朽内政的改革。张衡在这种朝气复萌的形势下，亦自陈其思想政治上的主张。自光武帝以来，图谶成为统治者欺骗人民的工具。张衡愤其虚妄，首先上疏论其言而无征，实为少数妄人欺世愚民捏造出来的把戏。他以秦至西汉末的历史事实，证明本无图谶，则知图谶成于哀平之际。后来有些人所言某些灾异，亦无事实效验。因此他主张“宜收藏图谶，一禁绝之，则朱紫无所眩，典籍无瑕玷矣”。这些议论在当时是很大胆的，没有多少人敢说，而且儒者们一直在“争学图谶”。这时朝政大权已由外戚转移于宦官集团。张衡复上疏言事。但张衡作为太史令，不在公卿之位，他的几篇奏章，虽都言之成理，一律是无效的。这样，他对政事就愈来愈没有兴趣了。

顺帝即位后，张衡再转为太史令。这职务在他为专业对口，但也说明了他长久官升不上去，总不能没有一点感慨。于是他仍用与客谈话的形式，作《应间》赋，表达了他的仕途不得意的情绪。

阳嘉元年，张衡发明地震仪。次年，迁为侍中。他接近了皇帝，进言的机会多了。而宦官们则怕张衡告他们的状，揭发他们的丑恶，常以凶恶的目光威胁他。因此当顺帝问他事时，张衡就情不自禁地简单说了儿句不明不白的事。但宦官们始终不放心张衡在顺帝身边，共同诬陷，一意要驱逐他离去。本来张衡就受老庄思想影响，以为人的吉凶祸福，幽微深藏于无形之中，说不定哪一天要得祸，因此又作了一篇《思玄赋》，开始说：

这是一首骚体赋，学屈原《离骚》，坚持自己的理想而不可得，则云游上下四方，以至于天上。

驱除幻想，一切还是照常，不求人知，自我努力而已。不出户可以知天下，何必远游自求劳苦。这是儒道思想的诗化，从苦闷中解脱出来，自得其乐。张衡另有《髑髅赋》，则是道家思想的游戏之作。

在为侍中的时候，张衡曾“上疏请得专事东观，收检遗文，毕力补缀。又条上司马迁、班固所叙与典籍不合者十余事。又以为王莽本传但应载篡事而已，至于编年月，纪灾祥，宜为元后本纪。又更始居位，人无异望，光武初为其将，然后即真，宜以更始之号建于光武之初。”他几次上书，俱被排斥，不为顺帝所接受，他觉得事已一无可为了。于是张衡于顺帝永和元年《公元136年）被调为河间（河北献县）相。在这里，他努力作一些切实的事，如打击豪强，整齐法度，使地方安定，上下肃然，政事耳目一新，一切有条规地得到治理。但张衡心中始终去不掉愁思，安静不下来，不得不寄情于诗，而有《四愁诗》之作。

这是从骚体赋变化来的诗篇，而有歌谣色彩。全诗四章，章七句。所思东南西北四地为理想所在，美人则是理想的化身。最高理想在太山、桂林二地，它们是古代圣王封禅、巡狩的地方，属于立德事业；其次是雁门、汉阳二地，它们是西北边疆要地，属于立功事业。由此可见他的理想与现实处境的矛盾是很大的，所有理想都为现实困难所阻挠而莫能如愿，与美人赠答之事都是幻梦，只有愁思怅望，涕泪?襟。张衡为人正直，傅学多能，而始终为下级官吏。他虽有许多贡献，但不能行其志，愁苦不得解决，遂有“怀土”之思，作归居田园以善终其身的打算，因作《归田赋》以见志：

以老庄思想和儒家经典为精神支柱，以田园游乐为生活旨趣，这样张衡便抛弃了人世间的荣辱，而放荡于复杂矛盾的世界之外。然而这只能是最后的一个幻想。在河间三年，张衡上书求退，顺帝徵为尚书。他没有归田。永和四年（公元139年）卒，年六十四。

张衡是中国历史上一个伟大的科学家和文学家。他的文学创作反映了他在仕途生活中遭受的曲折和坎坷，他在辞赋、诗歌和散文等方面都有优秀的业绩，表现了独创性。辞赋是汉代文学的主要形式之一，张衡所作各体，大赋、骚体赋、咏物小赋、抒情小赋，表现了不同程度的继承和发展，后者则是他的创新和开拓，对后世有影响。诗作不多，对五言诗的成长有贡献。散文则以上书言事的政论为主，而上书驳斥图谶的虚妄，则比“疾虚妄”的王充还彻底些。