Modernisasi Islam dalam bentuk pelaksanaan ibadah sesuai dengan ucapan dan perbuatan rosul. Hal-hal yang berbau bid’ah ditinggalkan.
Soal ganti nama dari Mohammad Darwis menjadi Ahmad Dahlan. Nama baru itu diberikan kiyai Sayid Bakrie.
Tahun 1903 beliau ke tanah suci lagi.
Kali ini berguru kepada Syiekh Mohammad Rasyid Ridha yang tak lain muridnya Syeikh Muhammad Abduh.
Kebetulan di sana seperguruan dengan KH Hasyim Asy’ari, yang kemudian jadi pendiri Nahdatul Ulama (NU).
Raden Hadjid, salah seorang murid KH Ahmad Dahlan menuturkan, dalam melaksanakan dakwahnya, Ahmad Dahlan senantiasa menggunakan beberapa kitab sebagai rujukan. Di antaranya kitab Tauhid dan tafsir juz Amma karya Syeikh Mohammad Abduh. Kitab Tamzul Ulum, kitab Al bid’ah karya Ibnu Taimiyah dan lain-lain.
Ahmad Dahlan juga seorang pejuang kemerdekaan. Beliau tergabung dalam Budi Utomo, Syarikat Islam, Jamiatul Khoir dan Komite Pembela Nabi Muhammad.
Tahun 1912, mulai mendirikan Madrasah Ibtidaiyah Diniyyah Islamiah.
Tempatnya menggunakan ruang tamu rumahnya di Kauman. Ruang berukuran 6 x 2,5 meter itu digunakan kegiatan belajar dengan santri pertama hanya 9 orang.
Beberapa orang teman menyarankan agar dibuat organisasi yang menaungi madrasah itu.