历史追溯到唐贞元年间，洛阳人李渤与其兄涉在此隐居读书，渤养一头白鹿“自娱”，鹿通人性，跟随出人，人称“神鹿”。这里本没有洞，因地势低凹，俯视似洞，称之为“白鹿洞”。后李渤为官江州(今江西省九江市)刺史，为纪念他青年时代在此读过书，广植花木，建亭、台、楼、阁以张其事。
南唐李氏朝廷，在此办“庐山国学”又称“白鹿国学”，与金陵秦淮河畔国子监齐名，学者争相往之。
北宋初年，宋太宗重视书院教育，御赐《九经》等书于书院，因有朝廷重视，地方官史予以重视，书院得以发展。南宋淳熙六年，理学宗师朱熹知南康军(今江西省九江市星子县)，率百官造访书院，当时书院残垣断墙，杂草丛生。朱熹非常惋惜，责令，修复白鹿洞书院，并自任洞主，制定教规，延聘教师，招收生志，划拨田产，苦心经营。朱熹制定的《白鹿洞书院揭示》又称《白鹿洞书院教规》影响后世几百年，其办学的模式为后世效仿，传至海外的日本、南韩及东南亚一带，白鹿洞书院誉享海外。清末宣统二年，清廷废白鹿洞书院名称，改称江西省高等林业学堂。
