Chùa Thiếu lâm được xây đời vua Hiến văn nhà Hậu Ngụy, cho nhà sư Thiên trúc là Bạt Ðà tu. Lịch sử xây cất chùa đều có ghi chép trong các sách "Ngụy thư Thích Lão chí", "Bùi Thôi bia", "Cảnh đức truyền đăng lục", "Thái bình hoàn vũ ký". Chùa Thiếu Lâm nổi tiếng về võ bắt đầu từ cuối đời Tùy, các nhà sư chùa này chống giặc cướp và đầu đời Ðường, giúp vua Thái Tông đánh Vương Thái Sung. Hai chuyện này đều chép trong bài bia chùa Thiếu Lâm của Bùi Thôi..