Pred 100 leti je bila v Lipovcih postavljena kapela, ki je posvečena sv. Petru in Pavlu. Pred kratkim so kapelo tudi obnovili. Domačini in kapelski odbor Lipovci so skupaj z župnijo 25. januarja, na praznik spreobrnjenja apostola Pavla, v kapeli pripravili »malo proščenje«. Maševal je župnik Boris Kučko. Pele so ljudske pevke iz Lipovcev in pevci moškega pevskega zbora Lipovci. Ob kapeli je lepo urejen spominski park, kjer so postavljeni doprsni kipi pomembnih lipovskih vaščanov.