شيوخه: إبراهيم بن شريك الكوفي. جعفر بن محمد الفريابي . عبد الله بن إسحاق المدائني. محمد بن حميد بن المجدر . الحسن بن محمد بن شعبة . أبو القاسم البغوي . ابن أبي داود. أحمد بن محمد بن الهيثم الدقاق. إبراهيم بن عبد الله بن أيوب المخرمي . أحمد بن جعفر البلخي الوراق . أحمد بن عبد الله بن سابور . عبيد الله بن عثمان العثماني . محمد بن هارون بن المجدر.
تلاميذه: أبو بكر البرقاني. عبد العزيز الأزجي. أبو محمد الخلال . أبو القاسم التنوخي . أبو محمد الجوهري . الحسن بن غالب المقرئ. أبو جعفر بن المسلمة. محمد بن الحسين الحراني . أحمد بن عمر بن روح.
مكانته: قال الذهبي: الشيخ العالم، الثقة العابد، مسند العراق، تفرد في زمانه. وقال العتيقي: سمعت أبا الفضل الزهري يقول: حضرت مجلس الفريابي وفيه عشرة آلاف، لم يبق منهم غيري، وجعل يبكي . وقال الأزجي: هو شيخ، ثقة، مجاب الدعاء. قال التنوخي: سأل أبي أبا الحسن الدارقطني وأنا أسمع عن أبي الفضل الزهري فقال: هو ثقة، صدوق، صاحب كتاب، وليس بينه وبين عبد الرحمن بن عوف إلا من قد روي عنه الحديث. وقال محمد بن علي الصوري: حدثني بعض الشيوخ أنه حضر مجلس القاضي أبي محمد بن معروف يوما، فدخل أبو الفضل الزهري، قال: وكان أبو الحسين بن المظفر حاضرا، فقام عن مكانه وأجلس أبا الفضل فيه، ولم يكن ابن معروف يعرف أبا الفضل، فأقبل عليه ابن المظفر وقال: أيها القاضي، هذا الشيخ من ولد عبدالرحمن بن عوف، وهو محدث، وآباؤه كلهم محدثون إلى عبد الرحمن بن عوف، ثم قال ابن المظفر: حدثنا عبد الرحمن بن محمد بن عبيد الله بن سعد الزهري والد هذا الشيخ، وحدثنا فلان عن أبيه محمد بن عبيد الله بن سعد، وحدثنا فلان عن جده عبيد الله بن سعد، ولم يزل يروي لكل واحد من أباء أبي الفضل حديثا حتى انتهى إلى عبد الرحمن بن عوف.
مصنفاته: " جزء " فيه حديثه.
مصادر الترجمة: تاريخ بغداد. سير أعلام النبلاء. تذكرة الحفاظ. تاريخ الإسلام. شذرات الذهب.