两年后，范仲淹便学完了五经，也已经能写出很好的诗文了。老师见范仲淹才华出众，很有前途，心中很是爱惜；为了鼓励范仲淹更好地学习，老师给他讲述了他的身世，以及他的生父范墉的情况。老师没想到这件事使范仲淹受到了很大的刺激和震惊，决心重振范家门风。于是他哭着告别了母亲，毅然离开朱家，回到家乡，投靠到他的一个亲戚家中。他的亲戚深为范仲淹的少年有志惊喜，尽管家中日子也很艰难，仍表示愿意供他读书。

　　为了发愤读书，范仲淹借住在长山县醴泉寺的一间僧房中。在这里，他自己做饭吃。为了尽量减轻亲戚家的负担，他生活十分节俭，每天只烧一小锅粥，等到粥冷却凝固后，用刀划成四块，一天吃两餐，每餐就着咸菜，只吃两块。不久，寺内住持发现了，深为他在如此艰难的条件下仍然锲而不舍读书的精神所感动，便用“断齑划粥”称赞他。后来，“断齑划粥”便作为一个成语流传下来，常常被人们用来自勉或教育子女。

　　几年后，范仲淹感到长山毕竟是穷乡僻壤，找不到可以请教的老师，便想外出拜师求学。不久，他听说南京（今河南省商丘市南）有个学舍，叫应天府书院（宋真宗大中祥符初，应天府有个富户叫曹城，捐资修建学舍一百五十间，聚书一千五百卷，被朝廷赐名“应天府书院”），很有名气，便不顾路途遥远，到南京学舍求学。

　　这应天府书院，是当时宋朝著名书院之一，最早是著名儒士戚同文讲学的地方。书院广招有才学子，聘名师讲授，学习气氛十分浓厚。范仲淹以其才华被书院录取就读。

　　在这里，范仲淹仿佛走进了另一个天地。宽敞的学舍、众多的学生、有名的老师、大量的藏书，使他大开眼界，更加激起他强烈的求知欲望。他不分昼夜地读书，读倦了，就用冷水浇头，提起精神，继续攻读。有一次，宋真宗朝拜亳州太清宫，路过南京，同学们都争着去看皇帝，唯有范仲淹不为所动，仍然全神贯注地闭门读书。在生活上，学院对贫困学生虽有补助，但范仲淹依然坚持“断齑划粥”的艰苦生活，省下钱来，再去买书。当时，他有个比较要好的同学，是南京留守的儿子，家中很是富有。这位同学见范仲淹过着如此贫困的生活，还发奋读书，深受感动，就把范仲淹的情况告诉了父亲。那留守听了，也被感动，便叫儿子每天拿些好的饭菜给范仲淹吃。