Jaungulbenes muižā ir 39 hektārus liels ainavu parks ar romantisma laika pieminekļiem. "Muižas parks bija bagāts ar arhitektūras mazajām formām un tēlnieciskiem darinājumiem. Interesanta būve ir t.s. Velna vārti ar mākslīgām pilsdrupām (1889); tie saglabājušies līdz mūsdienām. Vārtu vērtnes bijušas rotātas ar figurāliem veidojumiem