والده عام 390 هـ كان الوصي عليه رجل يعرف بالحربي يسكن بدار العز فنقله إليه، وكان جوار داره مسجد يصلي فيه شيخ صالح يعرف بابن مفرحة المقرئ يقرئ القرآن ويلقن من يقرأ عليه العبارات من مختصر الخرقي، فلقن القاضي العبادات، ولعل هذا كان ابتداء تحول القاضي رحمه الله إلى دراسة المذهب الحنبلي لأن والده كان فقيها على مذهب الأحناف، ثم مضى القاضي رحمه الله إلى الشيخ أبي عبد الله الحسن بن حامد وهو شيخ الحنابلة في وقته ومدرسهم وفقيههم، فلازمه إلى أن توفي رحمه الله.
وبعد وفاة الشيخ ابن حامد تولى القاضي التدريس نيابة عنه وذلك عام 403 هـ فتكون بهذا مدة التحصيل والدراسة عند القاضي ما يقارب 17 عامًا وهي الفترة الواقعة بين عام 385 هـ ابتداء سماع القاضي وعام 403 هـ ابتداء جلوسه للتدريس.
ويدل على ضخامة ما حوى القاضي من علم في تلك الفترة أن الشيخ ابن حامد أنابه عنه في تدريس تلاميذه حين سفره إلى الحج عام 402 هـ(1) وأوكل إليه الجلوس على كرسيه والقيام بمهمته وهو شيخ الحنابلة في زمنه.

‌‌ثانيا: شيوخه:
1 - الحسن بن حامد بن علي بن مروان، أبو عبد الله البغدادي المتوفى سنة 403 هـ.
قال عنه القاضي كما نقل الخطيب عنه: "كان مدرس أصحاب أحمد وفقيههم في زمانه، وكان معظمًا في النفوس مقدمًا في السلطان والعامة".
وقال ابن أبي يعلى: "إمام الحنبلية في زمانه ومدرسهم وفقيههم وكان يقتات من عمل يده حيث كان ينسخ الكتب، وكان عفيفًا نزيهًا كثير الحج مات في رجوعه من الحج عام 403 هـ".--------------------------------------------
(1) ط. الحنابلة 2/ 117.