除塔林外,少林寺院內及周圍還散布著自唐代以來墓塔17座,其中唐塔4座,五代塔1座,宋塔2座,元塔1座,明塔2座,清塔4座,年代不清塔3座,同樣具有很高的價值。其中法如塔建于唐大周永昌元年(公元689年),塔室存碑,對早期禪宗史研究,價值更大。
初祖庵,位于少林寺西北約一公里,五乳峰下的小山丘上。這是宋人為紀念初祖達摩面壁而修建的一座庵院,又稱“面壁庵”。三面臨澗,古木掩映,為山中勝境;佇立院中,可仰望五乳峰頂達摩洞及達摩大型雕像。現庵院主體建筑有山門、大殿和千佛閣。
山門,創建年代無考,當在金、元時代,現山門,1986年按舊制重建。
大殿,創建于北宋宣和七年(公元1125年),歷代每有修葺,主要構件仍為北宋原物。它是河南省現在最古老的一座木石結構建筑,在建筑學術上具極高價值。殿門有磚雕對聯:“在西天二十八祖,過東土初開少林。”殿內供達摩像,并二祖慧可、三祖僧粲、四祖道信、五祖弘忍。東、北、西三壁上尚存人物彩繪23幅,另有5幅在歷代修葺已被毀壞,內容為初祖達摩以下三十六位禪宗祖師。繪制年代約在明末,形象質樸古拙。彩繪以下群肩石上,以及大殿的十二根檐柱,四根內柱,神龕須彌座束腰部分,都雕刻著精美的浮雕。內容包括人物、動物、花卉和山水等,畫面非常豐富,造型生動,構思巧妙,意境悠遠,刀法勁健,皆為北宋宣和七年(公元125年)大殿創建時所刻,距今已有八百多年,是少林寺石刻中的珍品,也是我國石刻藝術的寶庫之一。殿前尚有傳六祖手植柏一株,圍四米多,傳說六祖慧能回少林拜祖,用缽盂將樹苗從廣東帶回,植于此地。
千佛閣,為明代初祖庵住持福元創建。內供達摩,并供觀音菩薩像。千佛閣前有北宋靖康元年(公元1126年)舍利石函一具,四面有線刻畫,圖中天王怒目圓睜,或持劍,或執杵;仕女手托花果,姿態優美;鬼王披頭散發,兇相畢露。刀法流暢自如,堪為上品。
庵院內尚有碑石40多通,其中著名的有:宋黃庭堅《達摩頌碑》、宋蔡汴《達摩面壁之庵》,明刻《達摩面壁圖》等。
從初祖庵后,攀登而上,盤曲周折,約一里許,便到達摩洞。洞在五乳峰中峰上部南側,為當年達摩面壁九年處。石洞深約七米,高寬三米余,洞外有石坊,明萬歷甲辰年(公元1104年)造,南額題刻“默玄處”,北額題刻“東來肇跡”。內供達摩塑像一尊。
甘露臺,在寺院西墻外三十米處,傳為少林寺創始人跋陀譯經處。當年跋陀與勒那、流支一起,在此共譯《十地經論》,天降甘露,因此得名。唐顯慶年間,玄奘法師亦向往在此譯經,致書唐高宗,未果。臺上有古柏兩株,挺拔如鐵。臺下東南隅,有古樹數株,根出如虬如梁。