应天书院的前身是后晋时杨悫所办的私学，后经其学生戚同文的努力，得以发展，学子们“不远千里”而至，“远近学者皆归之”。北宋政权开科取士，应天书院人才辈出，百余名学子在科举中及第的竟多达五六十人。

宋真宗时，因追念太祖自立为帝，应天顺时，将宋太祖赵匡胤发迹之处宋州（今商丘）于1006年改为应天府，1014年又升为南京，处陪都地位。l009年，宋真宗将该书院正式赐额为“应天府书院”。宋仁宗时，又于l043年将应天书院这一府学改为南京国子监，使之成为北宋的最高学府之一，后该书院在应天知府、著名文学家晏殊等人的支持下，得到很大扩展。著名政治家、文学家范仲淹等一批名人名师在此任教，显盛一时，后人还立有《范文正公讲院碑记》以兹纪念。