公元133年，张衡特别上奏章揭露图谶的虚妄，明确提出反对图谶、禁绝图谶的主张。充满神学迷信内容的谶纬是东汉王朝的国典，如果有人反对图谶，也就等于说反对汉朝的皇权，就会被统治者认为是“非圣天法”，就会遭到压制和迫害。在如此的社会背景之下，想革故出新，张衡的仕途顺遂梦注定只能是空中楼阁。
张衡以科学上的成就而名垂史册，但是他彼时的身份却应该是为民请命，为万世开太平的一介官员，但他“聊朝隐乎柱史”，单单致力于科学这一“屠龙”末学，如此作为，张衡是不是真有点舍本逐末、不务正业了呢？
其实，张衡“聊朝隐乎柱史”的真正目的还在于“且韫椟以待价”（《应间》），所以他在履职太史、潜心候风地动仪之时，仍不忘政治上的进取。这期间他曾多次上书：做《应间》的同时，即上《顺帝封事》，永建五年（130年）上《陈事疏》；阳嘉元年上《论贡举疏》、《请禁绝图谶疏》，二年上《京师地震对策》、《论举考廉疏》。这些策疏大都言辞犀利，用语直率，有时甚至直接批评皇帝。大概是张衡这些切直无掩的疏谏终于使顺帝发现了这个多年滞留史官的张衡颇具政治才能，于是将他提升为侍中，其职能是“掌侍左右，赞导众事，顾问应对”，即做皇帝的高级顾问。
有一次，顺帝问张衡，当今天下人最痛恨的是谁？宦官们怕张衡说出自己，都用眼睛瞪着他，张衡只好“诡对而出”，但宦官“恐终其为患，遂共谗之”（《后汉书·张衡传》）。这个事情对张衡震动很大，也使他左右为难：任凭宦奸为非作歹却只能缄默不语、志意相左；我行我素，又难免有危险加身。
在这人生的十字路口，张衡需要求得心理平衡，找到继续实现人生价值的途径。《思玄赋》就是他内心从矛盾—平衡—选择—再到新的平衡的真实展现。他在赋中既抨击了“珍萧艾于重笥兮，谓惠芷之不香”的反常世道，也抒发了“奋余荣而莫见兮，播余香而莫闻”的深沉浩叹，同时也表现了“恫后辰而无及”这生不逢时的苦闷，而且还露出了“畏立辟以危身”的危惧心理。他希冀进取，现实不允许；消极自沉，有悖于心志。痛苦至极，他曾想学仙远遁，然而强烈的入世精神又把他拉回现实。他也曾一度求之于命运，但命运只能帮人解脱，却不能助人重振自我。然而，自我实现理想的执着追求终于使他对传统命运观进行了积极的改造，从中找到了新的精神支柱。他认为命运虽然难知，但命运却统属于天，恶有恶报，善有善报，只要自己处义行仁，必不会有灾祸加身。消极的宿命论在张衡那里变成了积极的有命论，“苟中情之端直兮，莫吾知而不恧”。他实现了新的心理平衡，决心“共夙昔而不贰兮，固终始之所服也”，以循道为务，决不向现实妥协，这成为他晚年立身处世的指导思想。