从青年时代起，范仲淹就忧国忧民，步入仕途后，一心革除弊政。仁宗天圣三年(公元1025年)，他将多年思索之所得，写成洋洋万字的《上时务书》，请仁宗革除文弊，复举武科，赏直谏之臣，除滥赐之害。当时，他只是个大理寺丞，官小职卑，上书如石沉大海。但是，他并不灰心，于天圣五年(公元1027年)又写成《上执政书》，建议宰相们不要安守常规，要从“固邦本、厚民力、重名器、备戎狄、杜奸雄、明国听”六个方面进行改革。尽管范仲淹忠心进谏，“每感激论天下事，奋不顾身”，这次上书仍未被采纳，却带来了一个意外的结果。当时的宰相兼枢密使晏殊看了范仲淹的上书后，深感文章典雅，见识超群，颇为欣赏，便荐举他为秘阁校理，负责皇家图书典籍的校勘和整理。他入朝不久，即发现仁宗的母亲刘太后权势过重，不仅朝中军政大事全由这位60多岁的太后处置，冬至受朝，仁宗还得率领百官给她拜寿。在封建士大夫眼里，朝仪与家礼有别，皇帝给太后公开拜寿，有损一国之君的尊严，但敢怒不敢言。深受儒家思想熏陶而又忠厚耿直的范仲淹，便公然上疏加以反对，使举荐他的晏殊惊恐不已。他回到家中给晏殊写了申辩信，又上疏太后，干脆劝他还政给仁宗。朝廷对此默不作声，范仲淹却因此被贬到河中府任通判。
3年以后，刘太后去世，范仲淹被召回京师任评议朝政的右司谏，不久又因进谏得罪了宰相吕夷简而贬为睦州知州。后改任苏州知州，因治水有功，调回京师，获得天章阁待制的荣誉职衔，实任开封知府。后又因反对吕夷简进用私人而贬为饶州知州。宦海的升沉并未消磨掉范仲淹的浩然正气，他在由饶州调任润州知州给仁宗的奏章中声称：“进则持坚正之方，冒雷霆而不变；退则守恬虚之趣，沦草泽以忘忧。”