کتابخانه در ابتدای تاسیس در سال ۱۲۹۷، ساختمان مجزا و مخصوص نداشت و به صورت قفسه هایی در دفتر، یا انبار دارالمعلمین در خیابان شاه آباد (نادری / جمهوری اسلامی) و سپس خیابان شاهپور (وحدت اسلامی) اداره می شد. در سال ۱۳۱۱، تالار بزرگ غربی (تالار شمارة ۱) عمارت مرکزی دارالمعلمین عالی در باغ نگارستان به کتابخانه اختصاص یافت. ساختمان نوساز کتابخانه در سه‌طبقه در سمت شمال شرقی دانشکده ادبیّات (محل دانش‌سرای عالی قبلی) در سال ۱۳۱۵ افتتاح شد. در سال ۱۳۳۷ کتابخانه در پی انتقال دانشکده ادبیات به محل فعلی واقع در پردیس مرکزی دانشگاه در خیابان انقلاب انتقال یافت. در طول سالها، بخشهای مختلف کتابخانه در طبقات زیر هم کف، هم کف، طبقه دوم و سوم، مستقر بوده است.