七十八年五月，本處奉教育部指示，研訂整建運用綱要計畫，於七十九年十一月提經國立中正紀念堂管理處指導委員會審議通過，將東側保留區闢建為展覽館，西側保留區闢建為現在之圖書館。
整建工程於八十年十月二十一日開始施工，並自八十一年六月起成立圖書館籌備小組，負責籌辦開館事宜。迨至八十二年三月二十日硬體工程竣工，隨後內部各項軟體設施亦一一準備就緒，遂於八十二年七月七日正式開放對外服務，並定名為「中正紀念圖書館」。
民國九十四年配合館內西側空間整建，並於同年六月進行封館。民國九十六年規劃第三展廳後方為專門專業圖書室，民國九十七年進行圖書室內部空間裝修工程，完工後擬定館藏定位、計劃草案，並整頓館藏資料，歷經館藏轉贈、淘汰、系統維護、圖書盤點、整架等作業，未來配合處務發展，蒐集有關蔣公資料並陸續辦理相關活動及研討會，朝向具有主題特色和學術研究為主的「專門圖書室」。