تأسست "جمعيّة العلماء المسلمين الجزائريّين" بعد عام من الاحتفال بمضي قرن على احتلال الفرنسيين للجزائر (1349 ﻫ /1930 م)، وذلك يوم الثلاثاء 17 من شهر ذي الحجة عام 1349 ﻫ الموافق لـ05 من ماي 1931 م في اجتماع بنادي الترقّي لاثنان وسبعون من علماء القطر الجزائري ومن شتى الاتجاهات الدينية والمذهبية (مالكيين واباضيين، مصلحين وطرقيين، موظفين وغير موظفين)، كما حضر الاجتماع الأعيان وطلبة العلم، بدعوة خاصّة وجهتها لهم لجنّة تأسيسية مؤلفة من أشخاص ينتمون إلى نادي الترقّي، "لا يثير ذكر أسمائهم شكوك الحكومة، أو مخاوف أصحاب الزوايا" حتى يتم الاجتماع في هدوء وسلام، وتتحقق الغاية المرجوة من نجاح التأسيس.