中國各地的龜馱碑的具體來源有多種說法。
一種說法是起源于陳宣帝年間,當時北方為北周,北周武帝滅佛時,齊地海曲慧聞闡師被迫從海上南下,遇到大風浪,船沉海底,這時有一只神龜將慧聞等人馱到江寧(現在的南京)。慧聞向神龜道謝時,神龜說:“師傅不認識我了,我就是海曲(今日照)石梁溪放生池里的老龜。”后來慧聞將這個故事講給陳宣帝聽,陳宣帝很感動,就下詔建報恩寺,并為此立碑。石碑由龜背負,既是對神龜報恩的詮釋,也取其天長地久之意。
另一種說法來源于中國古代神話傳說,具體涉及龍的九個兒子之一——赑屃(bì xì)。赑屃形象似龜,力氣過人,喜歡負重,因此常被用來象征和寓意著堅韌不拔、承受重任的精神。在古代神話故事中,赑屃因其力氣過人而被天神利用來馱載一塊刻有先祖功德的神功圣德碑。
此外,也有說法是因為烏龜的體型適合承載碑文、寓意著長壽和永恒、與文字有深厚的歷史淵源、在傳統文化中有特殊的地位等原因,使得龜馱碑在中國各地廣泛存在。