Logom dominira križ sastavljen od četiri dijela što simbolizira četiri rijeke grada Karlovaca: Kupu, Mrežnicu, Koranu i Dobru. Križ je ukrašen stiliziranim kvadratićima crvene i bijele boje iz hrvatskog grba želeći istaknuti nacionalnu dimenziju Svetišta, odnosno dvjema laticama ljiljana koji je česti simbol sv. Josipa. Plava boja križa želi podsjetiti na Blaženu Djevicu Mariju kojoj je posvećena župa u kojoj se nalazi Svetište svetog Josipa. Križ izrasta iz slova "j"pisanog glagoljicom"j". Slovo "j" je prvo slovo imena Josip kojemu je posvećeno Svetište. Glago-ljičko pismo simbolizira dugu povijest pismenosti hrvatskog naroda te činjenicu da su se glagoljaši pred navalom Osmanlija sklonili upravo u Karlovcu. Zahvaljujući glagoljici hrvati su već u 9. stoljeću čitali svete kršćanske knjige. Znakove loga odredio je Antun Sente, izgled loga osmislio je Mario Vukošić uz grafičku doradu Nenada Vojnovića.
