A l'approche de Kjollefjord, la formation rocheuse de Finnkirka, souvent décrite comme ressemblant à une église avec un clocher, est un ancien site sacrificiel pour les pêcheurs, les marins et le peuple sâme.
Les navigateurs faisaient des offrandes à Finnkirka lors de leur retour pour remercier d'avoir survécu au voyage autour de Nordkyn.
Elle est classée, par la Direction du patrimoine culturel de Norvège, comme monument culturel sami et falaise sacrée.