中国河南省郑州市登封的嵩山，是少林武术的发源地，禅宗祖庭，由于其坐落嵩山的腹地少室山下的茂密丛林中，所以取名“少林寺”。
少林寺在唐朝时期，享有盛名，以禅宗和武术并称于世。民国时期被军阀石友三几乎焚毁殆尽。除了河南郑州嵩山少林寺之外，经考据后证明在历史上曾出现过位于福建的少林寺，被称为“南少林”。关于南少林所处地点，共有莆田少林寺、泉州南少林寺、福清少林寺三种说法。
少林寺，又名僧人寺,有“禅宗祖廷，天下第一名刹”之誉；是中国汉传佛教禅宗祖庭，位于河南郑州市登封城西少室山。南北朝时，天竺僧人菩提大师达摩到中国，善好禅法，颇得北魏孝文帝礼遇。太和二十年(496)，敕就少室山为佛陀立寺，供给衣食。寺处少室山林中，故名少林。
据佛教传说，禅宗初祖菩提达摩在华以4卷《楞伽经》教授学者，后渡江北上，于寺内面壁九年，传法慧可。此后少林禅法师承不绝，传播海内外。北周建德三年(574)武帝禁佛，寺宇被毁。大象年间重建，易名陟岵寺，召惠远、洪遵等120人住寺内，名“菩萨僧”。
隋代大兴佛教，敕令复少林之名，赐柏谷坞良田百顷，成为北方一大禅寺。唐初秦王李世民消灭王世充割据势力时，曾得寺僧援助，少林武僧遂名闻遐迩。高宗及武则天亦常驾临该寺，封赏优厚。唐会昌年间，武宗禁佛，寺大半被毁，迄唐末五代，寺渐衰颓。宋代略有修葺。
元皇庆元年(1312)，世祖命福裕和尚住持少林，封赠为大司空开府仪同三司，统领嵩山所有寺院。一时中外僧众云集，演武礼佛，僧众常有两千人左右。
清代康熙、雍正、乾隆诸帝亦很关心少林寺，或亲书匾额，或巡游寺宇。1928年因遭兵燹，天王殿、大雄殿等许多建筑、佛像、法器被毁。寺内现存有山门、客堂、达摩亭、白衣殿、地藏殿及千佛殿等。
