宋朝有專門向皇上提意見的部門—諫院，而剛剛人朝為官的司馬光在禮院任職，但心懷忠心治國、濟世為民理想的他，認為無論什麼職務，都有責任向皇上進言。當時中官麥允言死後，內宮安排皇上出宮時的儀仗隊來護送。司馬光認為不妥，於是就在朝廷上提出了不同意見。

他是這樣向皇上進言的：“戴很多纓子的帽子上朝（超越了禮制之意），孫子尚且認為不可。麥允言只是陛下的近臣，並沒有多少功勞，而被告贈以三品的官位，給予一品官的禮遇厚葬，這太過分了吧。”夏辣死後被賜溢號為“文正”，司馬光說：“這個溢號是最美的了，夏辣是什麼人，能受得起嗎？”因為有司馬光提出了不同意見，最終夏辣的溢號被改為“文莊”。有一天在上朝時，有部門報告說最近將有日食，按慣例，日食不滿度數，有可能京城看不見，應該慶賀一下，司馬光聽後，當即提出了反對意見：“四方都能看得見而京城看不見，這說明君王被陰險邪惡的小人所矇蔽了，天下的人都知道，唯獨朝廷不知道的事，所帶來的災害會更厲害，不應該慶賀。”最終，皇上同意了司馬光的意見。

也許是“日食”一事給宋仁宗留下了深刻的印象，25天后，司馬光就被任命為起居舍人，同知諫院，這在司馬光的仕途上是一次大的轉機。不到一年就為知諫院。司馬光在這個非比尋常的崗位上盡職盡責地工作了5年，這5年讓他聲名鵲起。諫院是諫官辦公的機關。諫官專門負責規諫諷喻之事。凡屬朝政缺失，大臣百官任用不當，三省各官署有失誤的，諫官都可以提出意見，與專門負責彈勃官吏的御史臺合稱“臺諫”。中國古代設諫官始於梁武帝，唐朝叫“補網”或“拾遺”。宋初，承五代之弊，官失其守，到了太宗雍熙五年（公元988年），完備了諫官制度。慶曆年間，朝廷又做出規定，現任的宰相、參知政事不能作為諫院薦舉人選。諫官待遇優厚，一期任職三年。

慶曆三年（公元1043年），仁宗皇帝把諫官的任免權掌握到自己手中，目的是讓諫官更好地充當朝廷的耳目和參謀，即這個官職直接任命於皇上，並且直接為皇上服務。對於盡職盡責的諫言，朝廷還有特別獎勵。做諫官工作重要。位高權大，但是風險也很大，作為一個稱職的諫官，要敢於唱反調，敢於得罪人，有時還可能觸怒龍顏，弄不好會身敗名裂，禍及子孫。司馬光立志忠君報國，有著很強的政治參與意識。所以對於這個任命不但沒有推辭，而且還滿腔熱忱地立志幹好。接到這一任命後，回到家中他寫了一首詩：“恩與乾坤大，身如草木輕。何階致明主，垂拱視平生。秋水浮搓客，漂如一葉輕。鷗群須仗言，鯨口幾忘生。”足以顯示出司馬光幹好這份工作的決心。他六月末接到任命書，七月便到諫院報到就職。

仁宗皇帝從天聖元年（公元1023年）即位已經38年了，這段時間裡，國家雖然表面上平靜，實際上積貧積弱的國勢卻在不斷加深，暴露出來的各種社會問題已相當嚴重。作為諫官司馬光要向皇帝進諫的問題很多，什麼是最重要最能起作用的呢？想來想去，還是規勸皇上加強自我修養，從提高自身素質人手，於是他選擇了被時人視為“遷闊之議”的“三德”和“五規”上諫。大約是治平四年（公元1067年）九月間，司馬光在延和殿同神宗皇帝談事，又一次談到不可重用張方平。帝曰：“有何實狀？”光曰：“請言臣所目見者。”帝作色曰：“每有除拜，眾言輒紛紛，非朝廷美事。”光曰：“此乃朝廷美事也。知人，帝堯難之，況陛下新即位，萬一用一奸邪，若臺諫循默不言，陛下從何知之？”帝曰：“吳奎附宰相否？”光曰：“不知也。”帝曰：“結宰相與結人主孰賢？”光曰：“結宰相為奸邪；然希意迎合，觀人主趨向而順之者，亦奸邪也。”

從這段對話看，氣氛是頗為緊張的。神宗皇帝對司馬光不厭其煩、不留情面的諫淨，已有些惱怒。但是司馬光無所畏懼，堅持己見，廷爭面折，不肯少曲，竟然說出迎合皇帝旨意的人也是奸邪的話來，對這位剛即位的年輕皇帝是個不小的刺激。就在這次對話的次口，司馬光被免掉了御史中丞的官職，重又為翰林學士兼侍讀學士。