La mezquita de Baiturrahim Jamik es uno de los edificios en Tarempa con más importancia histórica. Construida hace 90 años, la mezquita ha sido reformada varias veces y aún se mantiene firmemente en pie hasta nuestros días.
Otro lugar de culto que visitan con frecuencia los turistas es el Templo de Gunung Dewa Siantan. Este monasterio se trasladó en su totalidad a una posición más alta del acantilado rocoso donde fue construido, para preservarlo del agitado mar. Hoy el templo se alza majestuoso, vigilando la bahía de Tarempa, la ciudad y las verdes pendientes de las montañas.
