如果说长白山醴泉寺读书是他自觉读书的表现，那么多年以后他到南京应天书院求学，则是为自立而读书了。幼年丧父乃人生大痛，当范仲淹知道自己是范姓之子时，不异于当头棒喝。事情是这样的，因为朱氏兄弟奢华浪费而不知节俭，范仲淹曾多次劝阻，有一天朱氏兄弟被劝说得不胜其烦，便脱口而出说，我们用朱家的钱，与你何干？他听此言十分疑惑，自己不就是朱家子孙吗？疑骇之下他四处打听自己的身世之谜，最后才知道自己是姑苏范氏之子。范仲淹是个烈性汉子，他毅然决定自立门户，并立即离开朱家，负琴携剑，求学南京，唯一的目的就是发奋读书、学成迎母。这时，他二十三岁。

　　在应天书院求学，由于与朱姓决裂，生活一度没了着落，有一顿没一顿的，异常艰难。《范文正公年谱》上说他“询知家世，感泣去，之南都，入学舍，扫一室，昼夜讲诵。其起居饮食，人所不堪者，公自刻益苦”，还说“公处南都学舍，昼夜苦学，五年未尝解衣就枕。夜或昏怠，辄以水沃面。往往粥不充，日昃始食”。范仲淹孜孜求学，倦怠时以凉水浇脸，饥饿时以稀粥为食，日夜与诗书相拥，五年未解衣就枕。南京留守的儿子与范仲淹同窗，十分同情范仲淹，便把他的苦读情况告诉了自己的父亲。留守很受感动，让儿子送些美食给他，但范仲淹婉然拒绝了，说不是不感谢你的深情厚谊，但自己喝粥习惯了，也不觉得苦，一旦享受丰盛的饮食，以后喝粥就索然无味了，表达出清贫自甘、清苦亦乐的豁达。还有一次，宋真宗幸临南京，南京万人空巷，应天书院师生也倾巢而出，争睹圣颜，只有范仲淹岿然不动，继续读书。有人回来后问他为什么不去一睹皇帝风采，范仲淹说，将来晋见也不晚，可见其抱负的远大。