גומל חסד היה רבי אריה לא רק עם החיים אלא גם עם המתים. פעם אחת פגשו בו מקורביו ברחוב, כשהוא הולך ללויה. שאלוהו: מי הנפטר ? השיב: "איני יודע".
הביטו בו תמהים. הוא הסביר: "ראיתי במודעות האבל שפורסמו בחוצות כי האיש נפטר לאחר ייסורים קשים, מכאן שהוא "בעל מדרגה", והולך אני לגמול עמו חסד של אמת…." 
(איש צדיק היה עמ' 104)

"ישיבת בית אריה" ממשיכה בדרכו של רבי אריה לגמול חסד עם החיים ועם המתים. רבני הישיבה לומדים ומתפללים לעילוי נשמתם של ידידי הישיבה ותומכיה לאורך השנים, תוך שמירת יום פקודתם (יאר-צייט) באמירת קדיש ולימוד משניות כמקובל.