穿過天王殿,便是第二層院落。眼前凸字形高臺上,座落著宏偉的大雄寶殿。大雄寶殿為法源寺的主要建筑,東西闊五間,南北進深三間,檐下布五重昂斗拱、歇山頂,青灰色筒瓦,脊、吻獸、檐枋、檐棟均施以精美的描金彩繪。殿內供三世佛,中間供釋迦牟尼佛,左供過去世的迦葉佛,右邊供未來世的彌勒佛,東西二壁為二十圣僧像。
法源寺的第三層院落中央置觀音閣,為唐中和年間(881——884)幽州節度使李可舉所建(亦稱憫忠寺閣),閣東西外側兩壁嵌有唐、遼、金、清歷代碑刻,其中有唐肅宗至德二年(公元757年)張不矜撰寫蘇靈芝書《無垢凈光寶塔頌》,唐昭宗景福元年(公元892年)《唐憫忠寺重藏舍利記》,暨金大定十八年(公元1178年)《北部令史題名記》等。這些石刻有的保存了研究唐朝的重要資料,有的則清楚地反映了佛教的性質及統治者推崇佛教的目的。嘉慶十一年(公元1806年)詩人余集,王昶等分題法源八詠也嵌于東西二壁。閣內供奉著木雕十一面三十二臂觀音像,塑造精美,生動秀麗。
大通覺堂中供奉著玄奘法師頂骨舍利,這顆頂骨為宋端拱元年(公元988)金陵長干寺演純大師可政在終南山紫閣寺得到的,空祿五年(公元1017年)建塔于長干寺藏之。清咸豐四年(公元1854年),寺塔俱毀。1943年因修建,據出土石函上銘刻記載。知是玄奘法師頂骨舍利,并在北海公園內建塔藏之。五十年代后將佛寶移供于法源寺。
藏經閣位于寺院的最后一進院落。上下兩層,均為東西面闊五間,南北進深三間。外觀呈現朱紅色,青灰色的殿頂。檐枋等施以花卉人物故事為題材的精美彩繪。閣東西兩側有朱紅小樓,扶廓將小樓與主樓邊接成一體,使建筑顯得格外緊湊別致。
據史籍載:唐貞觀十九年(公元645年),太宗曾擬在幽州鎮城東南隅或城東門之東(今宣武門外)建寺以悼念、憫撫陣亡將士,至高宗李治又下詔修建,但都未果。武后萬歲通天元年,寺始建成,并賜名“憫忠寺”。唐中和二年,寺遭火災,塔閣均已無存,至景福年間,節度使李匡威重加修建,并蓋起三層巨閣以供觀音。五代時,一度改為尼寺。到遼保寧三年,幽州大地震,全寺傾圮后,隨即奉詔修復。金大定十三年,曾以此寺作為女真人進士考場。明正統二年,寺僧再次修葺,易名“崇福寺”,清雍正十二年改名為“法源寺”。