1- قاعات المطالعة :
مكتبة المسجد النبوي تضم قاعات مطالعة للرجال وأخرى للنساء وأخرى للأطفال .
2-قسم المخطوطات :
ويقع في الدور الثاني من باب عثمان بن عفان رضي الله عنه نهاية التوسعة السعودية الأولى.
3- قسم المكتبة الصوتية :
ويقع بباب رقم (17) ويقوم بحفظ ما يلقى في المسجد النبوي الشريف من الدروس والخطب والصلوات.
4-القسم الفني :
ويقع بباب رقم (9) بتوسعة خادم الحرمين الشريفين الملك فهد بن عبدالعزيز : ويقوم بتجليد وترميم وتعقيم الكتب والمخطوطات .
5- أقسام الفهرسة والتصنيف ، والتزويد ، والدوريات والمستودع :
وتقع في باب رقم (9) ولكل من الأقسام مهامه .
6- قسم الكتب النادرة :
ويقوم بحفظ الكتب النادرة من حيث قدم تاريخ الطبع أو الزخرفة أو الأشكال والصور ...الخ.
7- المكتبة الرقمية :
تحتوي على أجهزة حاسب آلي متصلة بالشبكة المحلية للمسجد النبوي وشبكة الانترنت ، ويستفيد روادها بالبحث عن الكتب والموضوعات المختلفة المتوفرة في مكتبة المسجد النبوي وبرنامج المكتبة الشاملة والمكتبة الاسلامية الكبرى ومواقع اسلامية على الانترنت ، ومكانها في الجهة الغربية داخل المسجد النبوي باب(12) بالطابق الثاني.
8- وهناك أقسام أخرى مثل :
البحث والترجمة وقسم الأمن والسلامة وقسم الإهداء والتبادل وقسم الإعارة .