Церковь во имя Тихвинской иконы Божией Матери входит в комплекс Крестовоздвиженского собора – старейшего церковного комплекса города. Сама Тихвинская церковь иконы Божией Матери была заложена позади алтаря Крестовоздвиженского храма в июне 1764 года по просьбе клира, просившего построить тёплую зимнюю церковь. Строительство велось на деньги купца Ильина И.. Освящение церкви состоялось 14 декабря 1768 года. В середине XIX века, в связи с увеличением числа прихожан, Тихвинская церковь была перестроена: увеличена в размерах по периметру. Церковь во имя Тихвинской иконы Божией Матери была закрыта в феврале 1932 года, храм сильно пострадал во время Второй мировой войны и, к моменту передачи церкви верующим, в 1991 году, его состояние оценивалось как критическое: внутри церковь была полностью переконструирована, внутреннее убранство полностью уничтожено. Однако общими стараниями прихожан, летом 1993 года в церкви прошло первое богослужение. На сегодняшний день церковь является действующей, в ней регулярно проходят богослужения.