Gedung serba guna berada di lantai atas sisi kiri bangunan masjid, pada lantai dasarnya adalah tempat wudhu. Pada sisi kanan terdapat pojok halal, semacam minimarket yang menyediakan produk makanan dan minuman terjamin kehalalannya dengan harga terjangkau. Pada bagian lantai atasnya merupakan kantor dari DKM Babah Alun Desari.
Bangunan utama masjid terdiri atas satu lantai yang ditinggikan, memiliki luas sekitar 200 meter persegi. Ruang salat di lantai dasar memiliki daya tampung hingga 200 orang. Sedangkan bagian lantai atas dibuat seperti bangunan bundar karena mengikuti bentuk kubah, digunakan untuk perpustakaan dan ruang membaca.
Yang paling mencolok dari bangunan masjid ini, selain bentuknya menyerupai bangunan etnis Tionghoa, diperkuat dengan warna merah dominan, kuning serta putih gading. Masjid diperindah dengan ornamen-ornamen negeri Tirai Bambu pada bagian jendela, pintu hingga pilar masjid dan jurai luar atap bangunan.
Baca juga: Imlek, Pemilik Tol Desari Jusuf Hamka Bagikan Angpao di Masjid Babah Alun
Saat membangun Masjid Babah Alun Desari, Jusuf Hamka mengirimkan sekitar 20 pekerja termasuk arsiteknya ke Xinjiang, Cina, untuk mempelajari langsung bangunan asli masyarakat setempat. "Di masjid ini ada gedung serba guna, saya sebutnya bale rakyat. Silakan masyarakat yang ingin mengadakan hajatan, pesta pernikahan, atau kegiatan apapun gratis, asalkan menjaga kenyamanan sesuai tuntutan Islam, tidak boleh ada makanan-makanan haram, alkohol dan segalanya," kata Jusuf Hamka.