کتابخانه مرکزی دانشگاه خوارزمی از سال ۱۳۳۴ با ۳۰۰۰ جلد کتاب پایه‌گذاری شد. این هسته اصلی از کتابخانه دانشکده ادبیات دانشگاه تهران که با نام دانشسرای عالی فعالیت داشت، بنیان گذاشته شد. کتابخانه مرکزی این دانشگاه در سال ۱۳۴۲ کتابخانه به محل کنونی دانشگاه خوارزمی انتقال یافت. تا سال ۱۳۷۹ کتابخانه مرکزی در تهران و کتابخانه‌های اقماری بیش از ۹۰ هزار نسخه کتاب موجودی داشت که برای ۷۵ هزار جلد از آن‌ها فهرست‌برگه چاپی تهیه شده بود. آن زمان شیوه امانت، سنتی و با استفاده از برگه‌دان بود. افزون بر این، کتابخانه مرکزی در کرج فضای مشخص و مناسب نداشته و در طول زمان در حال تغییر و تحول بود.

مجموعه کتاب‌هایی که در کرج نگهداری می‌شد به طور عمده شش دسته بودند: کتاب‌هایی که از کتابخانه مدرسه عالی پارس به کتابخانه منتقل شده بود، کتاب‌های مدرسه عالی ورزش، کتاب‌های کتابخانه تربیت بدنی، کتاب‌های کتابخانه سپاهیان انقلاب، کتاب‌های ارسالی از کتابخانه مرکزی تهران به حصارک و برعکس و کتاب‌هایی که در طول زمان برای مجموعه خریداری شده بود. این شش دسته کتاب به صورت‌های مختلف، ثبت و فهرست نویسی شده بود اما قاعده استانداردی برای این کار بنیان وجود نداشت. به‌منظور رفع این کاستی، پیشنهاد تغییر سیستم کتابخانه از سیستم رده‌بندی دهدهی دیوئی به سیستم رده‌بندی کتابخانه کنگره به معاونت پژوهشی وقت، ارائه و به دنبال آن، تغییر سیستم رده‌بندی در سال‌های ۱۳۸۰-۱۳۸۲ انجام گرفت.

در سال ۱۳۹۴ با ادغام دانشگاه علوم اقتصادی در دانشگاه خوارزمی، سه کتابخانه دانشکده‌های علوم مالی، اقتصاد و مدیریت به مجموع کتابخانه‌های اقماری دانشگاه خوارزمی افزوده شد. با افتتاح ساختمان جدید کتابخانه مرکزی در کرج، تجمیع کتابخانه‌های دانشکده‌ای در سال ۱۳۹۶ صورت گرفت. نظر به ضرورت گردآوری، سازماندهی و دسترس‌پذیری اسناد این دانشگاه با سابقه کهن، بخش اسناد در سال ۱۴۰۱ در این مجموعه شروع به فعالیت کرد و با پیوستن موزه یکسال بعد از آن تاریخ، خدمات و فعالیت‌ها خود را در قالب خدمات متنوع ادامه داد.

در حال حاضر موزه و مرکز اسناد و بخشی از مجموعه کتابخانه مرکزی در تهران و کرج فعالیت دارد. این کتابخانه غنی در حال حاضر مجموعه‌های زیر را در اختیار دارد:

• بیش از هزار نسخه کتاب فارسی و لاتین،
• بالغ بر ۲۰ هزار عنوان پایان‌نامه،
• ۳ هزار عنوان کتاب الکترونیکی تمام متن لاتین،
• ۱۱۷۲ کتاب گویا،
• ۲۵۹ عنوان طرح پژوهشی،
• ۷۳۱ عنوان سند تاریخی،
• ۱۵۶ نسخه خطی و
• ۴۹۴ شی موزه‌ای.

از افتخارات این مجموعه، فعالیت شاعره معاصر، پروین اعتصامی است که در سال‌های ۱۳۱۵ تا ۱۳۱۶ اداره این کتابخانه مجموعه را به عهده داشته است.