Zelve, üç vadiden oluşmakta, 9. ve 13. yüzyıllar arasında bölgenin en önemli manastır merkezlerinden biriydi. 1924 yılına kadar içinde evler, ahır ve mutfakların bulunduğu bir mağara yerleşimiydi.
Üzümlü Kilise ve Balıklı Kilise gibi bölgenin en eski dini yapıları buradadır.
Çavuşin, bölgenin en eski yerleşim yerlerinden biridir. Devasa bir kaya bloğunun içine oyulan Vaftizci Yahya Kilisesi 5. yüzyıla tarihlenir.