全國人大圖書館原名“全國人大常委會辦公廳圖書館”，成立于1955年1月。

建館之初，主要開展館藏整理、編譯、采編、借閱等工作。1969年，“文革”期間停止業務工作。1980年，圖書館重建。1997年更名為“全國人大常委會圖書館”，由行政單位改為全額撥款事業單位,除建立和完善各項管理制度和業務工作流程外，開始嘗試業務工作的自動化管理。2000年以來，圖書館逐步從傳統服務型向研究服務型轉型，一方面，加強了對現有人員的培訓，招收了信息技術專業、法律專業、圖書館學專業、管理學專業背景的應屆大學本科生和研究生；另一方面，重新規劃了館藏結構，開展了數字圖書館建設，加大了資源開發的力度，拓展了服務內容和服務手段。2002年，數字化一期工程完成，“圖書館之窗”網站在機關內網開通，2004年，數字化二期工程開始實施，對現有各種資源進行整合，增加了新的服務功能。2005年，增設咨詢部，工作重心轉為提供更具時效性和針對性的服務。2006年1月，更名為“全國人大圖書館”，服務范圍有所擴大。完成數字化二期工程，數字資源大量增加并實現整合，網絡服務功能增強。2007年，開始直接為人民代表大會、常委會會議提供專題資料服務。

本館的職責與目標是：為全國人民代表大會、全國人大常委會、委員長會議服務，為全國人大常委會組成人員、專門委員會組成人員、全國人大代表和機關工作人員提供文獻信息，向具有人大特色的研究服務型現代化圖書館邁進。