古云：“天下名山僧占多”，“山不在高，有僧（仙）則名”，石林寺始建于萬歷元年1573年，是由無用和尚結(jié)茅為庵，肇始開基，經(jīng)清康熙、乾隆、咸豐年間多次維修擴(kuò)建，到清末已有僧侶百余人，成為粵東四大名寺之一（與潮州開元寺、陰那山靈光寺、蓮花山蓮花寺齊名）。到了20世紀(jì)40年代，這座石林寺已湮沒，1995年重新開放修復(fù)，現(xiàn)已形成一定規(guī)模。
傳說，石林寺是由平遠(yuǎn)縣河頭鎮(zhèn)人“如愚”祖師所創(chuàng)。如愚祖師在俗時(shí)姓劉，生有五個(gè)兒子，家中富有，頗有錢財(cái)。兒子長大后都分了家，并各自有家室，祖師喪偶獨(dú)居。有一年過年的除夕之夜，祖師想，過年了，不用自已燒火做飯，兒子們會(huì)來叫父親去吃年夜飯的。但是，結(jié)果卻沒有一個(gè)兒子叫吃飯。到了晚上八九點(diǎn)鐘了，幾個(gè)孫子過來向祖師討利是（紅包）時(shí)，便順口問：“阿公，吃了飯沒有？”祖師說：“現(xiàn)在還有誰未吃？連狗也吃了”。說完便連夜帶著巨款來到五指石山下當(dāng)和尚，建石林寺。祖師覺得自已多子多錢都無用，便化名“無用”，叫無用禪師，又因時(shí)俗不能行道、尊德，如若愚頑，遂又取法號(hào)“如愚”。祖師建寺時(shí)已年過半百。
現(xiàn)寺內(nèi)有鎮(zhèn)寺“三千斤”之稱，即有生鐵所鑄的佛像、大鐘、香爐鼎各均重一千斤。原寺的大門聯(lián)為：
石室不須金鎖閉
林園自有白云封
過去，每年的重陽廟會(huì)，這里便是閩、粵、贛三省香客、游
人云集之地，熱鬧非凡。清朝有一禮部尚書黃錦曾到此游山問禪，并題詩作賦：
石林高幾許，金剎隱中峰。
白日空山梵，清焱靜夜鐘。
小窗扶嫩壁，危蹬依長松。
坐聽無師語，何時(shí)錫杖從。