呂南公自幼聰穎異常，比尋常的孩子機敏多了，出生才幾歲的時候，一天就已經能熟記超過一萬個字。少年時孜孜不倦，勤奮學習，開始接觸義理知學，學作古文詩歌。寫文章他最喜歡的是唐宋八大家之首韓愈寫的文章，他自己寫文也遵循古道，主張文章應當經世致用，而不是誇誇其談和表面上好看。

王安石變法運動的得力干將鄧聖求，有一次偶然與呂南公見面，交談一會兒驚訝於南公的奇才，於是專門邀請呂南公到齋館居住，每天早晚都會與呂南公交流議論。因為鄧聖求的重視，呂南公在當時一下子火了，聲譽暴發。

熙寧初年，呂南公受到州縣舉薦前往京都參加禮部考試。當時的翰林學士曾布早就渴慕他的才學，一連三日派自己的兒子曾延日前往呂南公歇腳的旅館拜訪，希望呂南公能到自家館舍居住。呂南公推辭道謝，並不前往。

等到後來呂南公回到家鄉之後，曾言：“使我有數椽屋以棲其軀，有兩盂飯以不虛晨晡”，專心讀書，潛心於學。他在豐義西村購置田產，在上面修建屋舍，此後在此定居，自號灌園先生。

元祐初年，陳內翰繹知建昌軍，在這兒與呂南公相見。兩人一見如故，互為知己，將呂南公留下居住。兩人整整交流了十日，十分投機。

當時司馬光倡導十科舉士，也就是一個簡易選拔人才的法令。推薦的人要符合十點，包括：一曰德行純固，可為師表科

二曰節操方正，可備獻納科

三曰智勇過人，可備將帥科

四曰公正聰明，可備監司科

五曰經術精通，可備講讀科

六曰學問賅博，可備顧問科

七曰文章典麗，可備著述科

八曰善聽獄訟，盡公得實科

九曰善治財賦，公私俱優科

十曰練習法令，能斷請讞科

陳繹在與呂南公交談之後，便以“文章典麗，可備著述科”舉薦呂南公。後來曾鞏的弟弟曾肇又以“德行純固，可為師表科”薦之。等到最後連曾鞏也向朝廷舉薦呂南公，說他讀書做文章都不流於俗套，有自己的觀點和看法。雖然生活清貧，但是他卻能不為所動，一心求學。

在這些人的共同舉薦下，呂南公才受到朝廷的重視。當時蘇軾等諸位大儒名公在掖庭，命人取來呂南公所作文章，經過一番議論，共同決定舉薦呂南公為官。不過可惜的是，這些打算還沒等到真正實行，呂南公就已經去世，十分遺憾。