Mustafa okula başlama çağına gelince, geleneklere bağlı annesiyle modern düşünceli babası arasında bir çatışma olur. Zübeyde Hanım, küçük Mustafa'nın, ilâhiyle Hafız Mehmet Efendi'nin mahalle mektebine, Ali Rıza Efendi ise modern öğretimde bulunan Şemsi Efendi'nin özel okuluna gitmesini ister. Sonunda Ali Rıza Efendi, bir çıkar yol bulur: Küçük Mustafa, ilk öğrenimine bir süre annesinin arzusuna uyarak Hafız Mehmet Efendi'nin mahalle mektebinde devam etti; fakat çok geçmeden babasının isteği ile Selânik'te çağdaş eğitim yapan Şemsi Efendi Mektebi'ne geçti ve ilkokulu burada bitirdi. Şemsi Efendi, yeni öğrencisinin yeteneklerini ve zekâsını takdir ettiğinden, küçük Mustafa'nın kendi okulunda bulunmasından son derece memnundu.

Küçük Mustafa, bu okulda okurken babasını kaybetmiştir. Bu sıralarda isimleri Makbule ve Naciye olmak üzere kendisinden küçük iki kız kardeşi bulunuyordu. Babaları öldüğü zaman küçük Mustafa yedi, Makbule bir yaşını henüz doldurmuştu; Naciye ise kırk günlüktü. Bu en küçük kardeşleri genç kız iken Selânik'te vefat etmiştir.

1888 yılında Ali Rıza Efendi'nin ölmesi üzerine, yedi-sekiz yaşlarında yetim kalan küçük Mustafa'nın büyütülmesi ve yetiştirilmesi görevi, büyük Türk kadını Zübeyde Hanım'a düştü. Bunun üzerine, Zübeyde Hanım, üç çocuğu ile bir süre Selânik yakınlarındaki Rapla çiftliğinde subaşılık yapan kardeşi Hüseyin Efendi'nin yanına yerleşti. Çiftlik hayatı nedeniyle küçük Mustafa'nın öğrenimi ister istemez bir süre aksamıştı. Fakat çok geçmeden Selânik'e dönerek halasının yanında, bıraktığı yerden öğrenimine devam etti.