少林寺建筑恢宏，高壁如峰，殿宇巍蛾。常住院在少林河北岸，为七进院落，现存建筑有山门、客堂、达摩亭、白衣殿、地藏殿、千佛殿等。山门建于清雍正十三年，门额上悬“少林寺”三字，为清康熙皇帝亲手所书。
传说山门置各种巧妙机关，无轻功者过此会掉人陷井;又说山门曾置“木人巷”，凡入寺学武者，出师吋须从木人巷中打出，如不出，须再学三年。门北为碑林，碑数十通，有唐宋名人撰写的碑文刻于上。经碑林北达天王殿，后为大雄宝殿,原是寺院的中心建筑，现仅存基址。殿东南钟楼遗址上有重达一万一千斤的大铁钟，为金泰和四年铸。由此过藏经阁、方丈院(龙亭)、达摩亭(立雪亭)，即到常住院内最大的建筑千佛殿。殿建于明万历年间，清乾隆时重修，面阔七间，深三间，面积三百九十平方米，为寺现存建筑之精华。
殿壁的东、北、西三面连成I:一体，绘有《五百罗汉朝毗卢》巨幅画，画面三百二十平方米，分三层：上为群峰，中为云海，下为水浪。规模宏大，人物各异，线条清晰有力，为明代壁画珍品。殿堂砖地上，有四行四八个脚窝，传为僧人练武遗迹。殿东侧的白衣殿中亦有多幅清末壁画。