قبل أن يصبح مكتبة، كان مبنى المكتبة الخُتَنيّة، يستخدم مدخلا للمسجد الأقصى من الجهة الجنوبية، ثم أغلق وتعددت استخداماته عبر العصور إلى أن أصبح مكتبة بها 52 ألف كتاب.