La moschea di Baiturrahim Jamik è uno degli edifici di Tarempa di rilevante valore storico. Costruita più di 90 anni fa, la moschea ha subito vari interventi di ristrutturazione ed è ancora oggi saldamente al suo posto.
Un altro luogo di culto e grande attrazione turistica è il Tempio di Gunung Dewa Siantan. Questo monastero fu trasferito pezzo per pezzo in un punto più alto della rupe dove era originariamente sorto, fuori dalla portata delle furiose acque del mare sottostante.
Oggi il tempio si presenta maestoso, affacciato sulla baia e sulla cittadina di Tarempa, con le spalle volte alle verdeggianti pendici delle montagne.
