St. Olavs menighet ble skilt ut fra Sandviken prestegjeld 1928, og omfattet «indre Sandviken» – strøket fra Helgesens gate i vest til Øvre Sandviksvei/Tartargaten i øst – med 6250 innbyggere ved opprettelsen. Menighetshuset i Absalon Beyers gate 1 ble benyttet som interimskirke. Det ble planlagt å reise en egen kirke på Fredens Bolig. Arkitekt Finn Berner fikk i oppdrag å tegne kirken, og et kostnadsoverslag ble forelagt kommunen 1932, men planen ble aldri realisert på grunn av pengemangel. Menigheten hadde egen sogneprest fra 1928 til sognet ble slått sammen med Maria menighet 1982. Samme år overtok Maria menighet St. Olavs menighetshus til bruk som prestekontor. Sognet fikk navn etter Norges skytshelgen, Olav den hellige, men navnet knytter også an til sagaens beretning om en tidligere Olavskirke her (Olavskirken på Bakkene), som trolig lå sørvest for den påtenkte kirketomten.