Masjid Baiturrahim Jamik merupakan salah satu bangunan di Tarempa dengan sejarah penting. Dibangun lebih dari 90 tahun lalu, masjid tersebut telah berulang kali direnovasi dan masih berdiri kokoh hingga saat ini.
Tempat ibadah lain yang sering dikunjungi wisatawan adalah Vihara Gunung Dewa Siantan. Biara ini dibangun ulang di atas tebing berbatu agar jauh dari hantaman ombak di bawahnya. Saat ini, vihara tersebut berdiri megah, menghadap teluk dan kota Tarempa yang dipagari pegunungan hijau.
