ولد
الشيخ عبد الكريم الرفاعي في دمشق في حي قبر عاتكة، لأسرة فقيرة متواضعة،
توفي والده وهو صغير فأشرفت أمه على تربيته ورعايته. وكان الشيخ مريضاً أول
حياته فجيء به إلى مجلس الشيخ علي الدقر بقصد التبرك والاستشفاء 
ولم يمضِ شهر حتى قام الشيخ على قدميه وقد شفاه الله ببركة مجالس العلم
وقرَّت بذلك عين أمه، فنذرت ولدها للآخرة، وأصبح يتردد على مجالس العلم
وأقبل على دروس المحدِّث الأكبر الشيخ بدر الدين الحسني يقرأ عليه العلوم
العقلية والنقلية.

وكان
الشيخ بدر الدين رحمه الله (1267-1354هـ=1851-1935م) أستاذ زمانه ومحدِّث
الديار الشامية، يحفظ الكتب الستة عن ظهر قلب، وكان إذا حدَّث في المسجد
الأموي يروي الأحاديث بالإسناد ثم يستنبط منها الأحكام ويذكر منها ما يتعلق
بعلوم الفقه والأصول واللغة والأدب والفلسفة وغير ذلك.