Na centralnym placu Viliejka wznosi się kościół Wzniesionego Krzyża, który został zbudowany w latach 1906-1913.
Został on zaprojektowany przez architekta Augusta Kleina w stylu neoromańskim z elementami neogotyku. Po raz pierwszy świątynia ucierpiała tuż po wybudowaniu: w czasie I wojny światowej została zburzona. Ale w latach dwudziestych, kiedy Wileika była częścią Polski, kościół został gruntownie odnowiony.
Sanktuarium zostało zamknięte po II wojnie światowej. A jeśli na początku istniał magazyn, to losy kościoła były bardziej udane niż wielu innych kościołów na Białorusi. Dom Sztuki po Nikodym Siliwanowiczu został wyposażony w budynku, więc kościół nie był w ruinie. W latach dziewięćdziesiątych XX wieku kościół został zwrócony katolikom i wkrótce został ponownie odrestaurowany.