'इंदौर मदरसे' की स्थापना (1841 ई.) के पूर्व नगर में प्राथमिक शिक्षा केवल धर्म, नैतिकता, संस्कृत व व्यावहारिक ज्ञान तक ही सीमित थी। प्राथमिक शालाओं के अभाव में बच्चे मंदिरों, मस्जिदों में जाकर पुजारियों और मौलवियों से शिक्षा पाते थे। कुछ धनिक व्यक्ति अपने बच्चे की शिक्षा की व्यवस्था अपने घर पर ही अध्यापक बुलाकर करते थे।
यह जानना रोचक होगा कि इंदौर नगर में जब राजकीय प्राथमिक शालाएं अधिक नहीं थीं तब 1856 ई. में कुल 22 निजी विद्यालय पृथक-पृथक स्थानों पर संचालित हो रहे थे।
इन विद्यालयों में नाममात्र का शुल्क लिया जाता था तथा साधारण हिन्दी व गणित की पढ़ाई होती थी। इन विद्यालयों में पढ़ने वाले विद्यार्थियों की संख्या 689 थी। इन विद्यालयों की सूची से तत्कालीन इंदौर नगर के विस्तार का भी सहज अनुमान लगाया जा सकता है। जूनी इंदौर, मल्हारगंज, कृष्णपुरा, सराफा, लोधीपुरा, पंढरीनाथ आदि क्षेत्र घनी आबादी वाले थे अर्थात राजबाड़े से 3 कि.मी. की परिधि में आबादी का अधिक दबाव था।
इन पाठशालाओं में अध्ययनरत विद्यार्थियों के विषयवार आंकड़े देखने पर स्पष्ट होता है कि 1850 से 1855 के 5 वर्षों के अंतराल में हिन्दी पढ़ने वाले छात्रों की संख्या बढ़कर 113 से 166 हो गई थी जबकि फारसी के विद्यार्थियों की संख्या 165 से घटकर 94 ही रह गई थी।
भारत के गवर्नर जनरल ने अपने पत्र क्र. 3115 दिनांक 30-5-1856 द्वारा इंदौर मदरसे की प्रगति पर पृथक रूप से अपना संतोष अभिव्यक्त किया था। 1 जुलाई 1857 के दिन ही रेसीडेंसी में अंगरेजों के विरुद्ध विद्रोह हुआ और नगर में मार-काट मच गई किंतु तब भी 'इंदौर मदरसा' बंद नहीं हुआ। अध्यापन यथावत चलता ही रहा। यद्यपि छात्रों की संख्या अवश्य घटी, जो जनवरी 1858 तक 350 में से पुन: 302 हो गई।
नगर में प्राथमिक शिक्षा पर बल देने और समग्र रूप से शिक्षा के विकास पर विचार करने के लिए 1912 में महाराजा तुकोजीराव (तृतीय) द्वारा एक उच्च स्तरीय समिति का गठन किया गया। इस समिति के चेयरमैन श्री बी.ए. भागवत तथा सदस्य श्री जी. गार्डनर ब्राउन राज्य शिक्षा निर्देशक, श्री एस.एस. बाफना तथा श्री वी.जी. दलवी को बनाया गया।
समिति ने तत्काल प्रभाव से एक परिवर्तन किया कि नगर में प्राथमिक पाठशालाओं में पढ़ने वाले बच्चों को दो स्थानों पर एकत्रित होने का निर्देश दिया। इन भवनों का किराया राज्य की ओर से दिया जाता था। इन बच्चों को बैलगाड़ियों में बैठाकर उनकी पाठशालाओं तक और फिर शाला से पुन: उस स्थान तक पहुंचाया जाता था। यह व्यवस्था 1913 से प्रारंभ हुई थी।
इंदौर नगर में प्राथमिक शिक्षा भी अनिवार्य : महाराजा तुकोजीराव होलकर (तृतीय) ने एक उच्च स्तरीय समिति 1912 में प्राथमिक शिक्षा की उन्नति हेतु गठित की थी। वैसे सारे होलकर राज्य में प्राथमिक शिक्षा नि:शुल्क दी जाती थी किंतु समिति का प्रयास था कि सारे राज्य में इसे अनिवार्य भी कर दिया जाए। इस प्रकार की एक कार्ययोजना 1916 में बना भी ली गई थी किंतु उन्हीं दिनों योरप में प्रारंभ हुए प्रथम विश्वयुद्ध के कारण अगले 9 वर्षों तक उस योजना को कार्यान्वित नहीं किया जा सका।
1925 में एक राजकीय अधिनियम बनाकर पहले इंदौर नगर में ही प्राथमिक शिक्षा को अनिवार्य बनाया गया। यह योजना पहली अक्टूबर 1925 से प्रभावशील हुई। प्रारंभ में 3 वर्षीय कोर्स अनिवार्य घोषित किया गया। बालक-बालिकाओं के लिए 12-12 नई शालाएं खोली गईं। अतिरिक्त भवन व अध्यापकों की समस्या को तत्काल बड़ी सूझबूझ के साथ हल कर लिया गया। बालकों की शालाएं प्रात:काल और फिर उसी भवन में दोपहर में बालिकाओं की कक्षाएं लगाई गईं। इनमें अलग-अलग पुरुष व महिला प्रधानाध्यापक होते थे। शिक्षक दोनों ही शालाओं में पढ़ाते थे। इस प्रकार के अतिरिक्त कार्य के लिए शिक्षकों को अतिरिक्त पारिश्रमिक भी दिया जाता था।
अनिवार्य प्राथमिक शिक्षा योजना के अंतर्गत जिन 24 विद्यालयों को प्रारंभ किया गया था, उनमें सर्वाधिक 15 हिन्दी के थे। शेष 4 मराठी, 4 उर्दू तथा 1 गुजराती का था। उल्लेखनीय है कि फारसी अध्यापन लगभग समाप्त-सा हो गया था और इंग्लिश का एक भी प्राथमिक विद्यालय नहीं खोला गया था।
नगर में प्राथमिक शिक्षा को अनिवार्य रूप से लागू करवाने के लिए एक अधिकारी को नियुक्त किया गया। नगर में प्राथमिक विद्यालयों में अध्ययन करने योग्य बच्चों का एक विस्तृत सर्वेक्षण 1926 में करवाया गया ताकि संभावित पाठशालाओं व अध्यापकों की व्यवस्था की जा सके। प्राथमिक शाला जाने वाले बच्चों में जो आयु समूह निर्धारित किया गया, उसके अनुसार बालकों के लिए 6 से 13 वर्ष तथा बालिकाओं के लिए 6 से 11 वर्ष रखा गया।
1926 ई. में जनगणना अधिकारी की रिपोर्ट के अनुसार अनिवार्य प्राथामिक शिक्षा पाने वाले योग्य बालकों की संख्या 5865 तथा बालिकाओं की 3935 थी। इनमें से 1258 बालकों तथा 647 बालिकाओं में या स्वयं के निवास पर ही शिक्षा ग्रहण करना प्रारंभ कर दिया था।
यहां यह तथ्य उल्लेखनीय है कि 1925 में नगर में प्राथमिक शालाओं में अध्ययन करने वाले बालक, बालिकाओं की संख्या क्रमश: 2974 तथा 1064 थी अर्थात इस योजना को लागू करते समय नगर में 4333 बालक व 2224 बालिकाएं प्राथमिक स्कूल नहीं जाते थे। मोटे तौर पर यह संख्या प्राथमिक स्कूल जाने योग्य बच्चों की कुल संख्या की आधी से भी अधिक थी। अत: राज्य का यह प्रयास नगर में शिक्षा की प्रगति के लिए विशेष महत्व रखता था।