Ngay sau khi thành lập, để thực hiện nhiệm vụ được giao, Ban Văn Sử Địa phải khẩn trương xây dựng một kho sách phục vụ công tác nghiên cứu. Ban đã quyết định cử cán bộ đi các địa phương sưu tầm tài liệu. Đầu năm 1954, cán bộ của Ban đã vào Khu IV tiếp nhận nguồn tài liệu quý của G.S Đào Duy Anh tự nguyện đóng góp. Đặc biệt, trong đợt Cải cách ruộng đất, Ban đã cử người đến một số xã thí điểm cải cách ruộng đất để thu thập sách báo và đã thu nhận được nhiều tài liệu quý, trong đó có hai nguồn ở Nghệ An và Hà Tĩnh của gia đình ông Cao Xuân Dục và gia đình G.S Nguyễn Đổng Chi. Trên cơ sở này Thư viện của Ban Văn Sử Địa ra đời.
Ngày 6 tháng 2 năm 1960, Viện Sử học được chính thức thành lập theo Quyết định của Hội đồng Chính phủ. Sớm nhận thức được vai trò của tư liệu với công tác nghiên cứu khoa học, Ban Lãnh đạo Viện luôn đặt việc xây dựng và phát triển thư viện là một trong những ưu tiên hàng đầu. Vì lẽ đó, từ vài trăm cuốn sách kế thừa của Ban Văn Sử Địa, Thư viện Viện Sử học đã từng bước xây dựng được những kho sách có quy mô lớn, với nhiều ngôn ngữ và thể loại phong phú. Tính đến năm 2008, sách tiếng Việt của Thư viện có 15 vạn cuốn; sách tiếng Anh, Pháp, Nga có khoảng 10. 000 cuốn; sách Hán Nôm khoảng 3000 cuốn và hơn 600 cuốn từ điển. Đồng thời Thư viện còn có gần 3000 bản tư liệu và 3000 tập báo (đóng tập theo năm).
Kho sách tiếng Việt của Thư viện gồm những tài liệu tham khảo, chuyên khảo có giá trị, gắn với lịch sử hình thành và phát triển của Viện Sử học cũng như của nền sử học Việt Nam. Đó là các cuốn sách: Lịch sử 80 năm chống Pháp (3 tập); Xã thôn Việt Nam; Tài liệu tham khảo lịch sử cận đại Việt Nam (12 tập); Cách mạng Tháng Tám (2 tập), Lịch sử chế độ phong kiến (3 tập); Thời đại Hùng Vương: Lịch sử, kinh tế, văn hóa, xã hội (4 tập); Nông dân và nông thôn Việt Nam thời cận đại; Về thực trạng giai cấp công nhân Việt Nam hiện nay v.v....
Gần đây Viện Sử học đã biên soạn và xuất bản nhiều bộ sách chuyên khảo như: Lịch sử Việt Nam từ khởi thủy đến thế kỷ X; Lịch sử Việt Nam thế kỷ X - đầu thế kỷ XX; Lịch sử Việt Nam 1858- 1896; Lịch sử Việt Nam 1897- 1918; Lịch sử Việt Nam 1919 - 1930; Lịch sử Việt Nam 1954 - 1965; Lịch sử Việt Nam 1965 - 1975; Việt Nam những sự kiện lịch sử (1945 - 1975, (1975 - 2000); Biên niên lịch sử cổ trung đại Việt Nam; Thế giới những sự kiện lịch sử thế kỷ XX (2 tập)...; Bộ sách mới Lịch sử Việt Nam (15 tập), hiện đã xuất bản các tập 3, 4, 8, 10.
Kho sách Hán Nôm lưu giữ nhiều bộ sách quý về lịch sử cổ - trung đại Việt Nam. Phần lớn trong số này đã được Viện Sử học tổ chức dịch và lần lượt xuất bản, bổ sung nguồn tư liệu tham khảo quí được giới nghiên cứu trong và ngoài nước đánh giá cao. Có thể kể đến các bộ sách như: Đại Việt sử ký toàn thư, Khâm định Đại Nam hội điển sự lệ, Đại Nam nhất thống chí, Đại Nam thực lục, Khâm định Việt sử thông giám cương mục, Lịch triều hiến chương loại chí, Phủ biên tạp lục, Kiến văn tiểu lục…Nhiều bộ sách độc bản, chỉ có tại Viện Sử học như Ức trai thi tập, Minh đô sử, Truyền kỳ mạn lục...
Ngoài ra Thư viện còn lưu giữ một số sách chuyên khảo về văn học, tôn giáo, địa lý, lịch sử địa phương...
Kho sách ngoại văn, gồm các sách Anh, Pháp, Nga, Đức, nội dung phong phú đáp ứng được nhu cầu nghiên cứu về lịch sử thế giới của các nhà khoa học xã hội. Đặc biệt mảng tài liệu tiếng Pháp có nhiều tài liệu quí viết về lịch sử, địa lý, chính trị - xã hội ở khu vực Đông Dương và Việt Nam giai đoạn cận đại, như bộ sách Lịch sử Đông Dương hay một số tạp chí: L'histoire (Lịch sử); Bulletin de l'Ecole Francaise d'Extreme- Orient (Tập san của Trường Viễn Đông Bác cổ); Revue Indochinoise (Tạp chí Đông Dương); Bulletin des amis du vieux Hue (Những người bạn của Cố đô Huế), Journal officiel de L'Indochine (Công báo Đông Dương), Bulletin Economique de L'Indochine (Tập san kinh tế Đông Dương) v.v...
Kho báo - tạp chí có nhiều tờ báo và tạp chí xuất bản trước Cách mạng Tháng tám như: Tiếng dân, Nam phong, Tri tân, Thanh Nghị.... Từ 1954 đến nay các báo Nhân dân, Quân đội nhân dân, Hà Nội mới... được lưu giữ đầy đủ. Mảng tạp chí rất phong phú với trọn bộ Tập san Văn Sử Địa và Nghiên cứu Lịch sử, các tạp chí chuyên ngành như Dân tộc học, Khảo cổ học, Hán Nôm, Lịch sử quân sự, Lịch sử Đảng, Nghiên cứu Kinh tế, Xưa & Nay...
Trong công tác nghiệp vụ, bên cạnh việc xây dựng một kho sách lớn (như trên đã trình bày), việc duy trì thường xuyên hệ thống Mục lục tra cứu - một công cụ tìm tin, là hoạt động nghiêp vụ không thể thiếu của thư viện. Hiện tại Thư viện sử dụng hai tủ tra cứu Chữ cái và Phân loại. Từ đầu những năm 2000, thực hiện chủ trương "Tin học hóa thư viện" của Viện KHXH Việt Nam, Thư viện đã đưa toàn bộ dữ liệu sách tiếng Việt, ngoại văn và Tạp chí Nghiên cứu Lịch sử vào máy tính. Như vậy, việc sử dụng phương pháp tra cứu truyền thống cùng với tra cứu trên máy tính đã mang lại nhiều tiện ích cho độc giả.
Về công tác phục vụ, ngoài đối tượng chính là cán bộ Viện Sử học, cán bộ Viện KHXH Việt Nam, một số học giả nước ngoài, sinh viên chuyên ngành lịch sử các trường đại học, cán bộ ngành văn hóa là những độc giả thường xuyên của Thư viện. Bạn đọc tới đây đều tra tìm được tài liệu với sự phục vụ nhiệt tình và có trách nhiệm của cán bộ thư viện.
Về công tác thông tin, ngoài việc thông báo sách mới tại Viện Sử học, Thư viện phối hợp với Viện Thông tin KHXH để thông tin tư liệu mới theo định kỳ. Thư viện đã biên soạn hàng chục thư mục chuyên đề phục vụ công tác nghiên cứu cơ bản cũng như việc biên soạn địa chí hay viết lịch sử cho các tỉnh, thành trong cả nước. Đặc biệt, trong dịp kỷ niệm 45 năm thành lập Viện Sử học (1998), Thư viện đã biên soạn cuốn sách "Viện Sử học Việt Nam - Gương mặt và thành tựu khoa học", được đánh giá là một công trình có giá trị. Qua cuốn sách người đọc thấy được sự phát triển của Viện Sử học qua 45 năm với số lượng hơn 300 đầu sách xuất bản, hàng nghìn luận văn nghiên cứu và hàng chục trang tư liệu của các cán bộ đã và đang công tác tại Viện.
Về nhân sự, được sự quan tâm của Ban lãnh đạo Viện Sử học, các thế hệ cán bộ của Thư viện luôn phấn đấu học tập và vươn lên trong công việc. Hiện nay Thư viện có 04 cán bộ, gồm 01 tiến sĩ sử học, 02 thạc sĩ và 01 cử nhân. Cùng với việc thường xuyên trau dồi về nghiệp vụ, mỗi cán bộ Thư viện đều cố gắng trang bị thêm cho mình kiến thức khoa học lịch sử để làm tốt hơn công tác chuyên môn.
Trải qua 60 năm xây dựng và trưởng thành, Thư viện Viện Sử học được đánh giá là một trong những thư viện chuyên ngành uy tín nhất của Viện KHXH Việt Nam. Thư viện đã khẳng định được vai trò của mình trong công tác phục vụ nghiên cứu và truyền bá kiến thức lịch sử. Đóng góp phần xứng đáng vào những thành công chung của Viện Sử học - một Viện đã được nhận phần thưởng cao quý của Đảng và Nhà nước trao tặng như Huân chương độc lập hạng nhất, Danh hiệu "Anh hùng lao động thời kỳ đổi mới", hoạt động của Thư viện Viện Sử học thực sự đã góp phần thúc đẩy sự nghiệp nghiên cứu khoa học lịch sử nói riêng, lĩnh vực khoa học xã hội và nhân văn ở Việt Nam nói chung.
Thư viện Viện Sử học