Первые годы своего существования команда выступала исключительно в местных (районных) соревнованиях. В 1930-м году, укрепив и стабилизировав состав, команда ЛМЗ впервые приняла участие в первенстве Ленинграда.

Незадолго до начала розыгрышей клубных чемпионатов СССР в 1936 году команда Ленинградского металлического завода имени Сталина получила название "Сталинец".

Первые три чемпионата СССР "Сталинец провел в группе Б (первой лиге) и перешел в группу А (высшую лигу) лишь в 1938-м году.

В 1939-м году "Сталинец" вышел в финал Кубка СССР, но в упорной борьбе уступил трофей непобедимому в те годы чемпиону СССР московскому "Спартаку".

Год спустя, в 1940-м команда наконец обретает то имя, под которым мы ее знаем, - "Зенит".

Военный 1944-й год становится для "Зенита" триумфальным. Впервые в истории команда становится обладателем Кубка СССР, прервав тем самым гегемонию московских команд.

Последующие три с половиной десятилетия не принесли команде славы. Наивысшие достижения тех лет: четвертое место в чемпионате СССР 1958-го года, пятое место в чемпионатах 1949-го, 1953-го и 1976-го (осень) годов, выход в полуфинал Кубка СССР 1945-го, 1954-го, 1961-го и 1977-го годов.

В конце 70-х началось возрождение "Зенита". В 1978-м году команду возглавил новый тренер - энергичный, грамотный и честолюбивый Юрий Морозов. Скоростной атакующий футбол, привитый новым наставником, ставка на молодых ленинградских игроков принесли свои плоды в 1980-м: были завоеваны первые в истории "Зенита" медали чемпионата СССР - бронзовые. На следующий год команда дебютировала в еврокубках.

В последующие сезоны молодые воспитанники превратились в опытных мастеров. В 1983 году на смену Морозову пришел Павел Садырин, а команда закончила сезон на 4 месте, выдав немало ярких, запоминающихся матчей, дошла до полуфинала Кубка СССР.

В 1984 году "Зенит" представлял собой прекрасно укомплектованную и сбалансированную по всем линиям команду. В мае ленинградцы вышли в финал Кубка СССР, но обидно проиграли в дополнительное время московским динамовцам. Возможно, именно этот психологический удар сплотил команду и заставил приложить все силы для покорения вершины союзного первенства. Первый и единственный раз в своей истории "Зенит" стал чемпионом СССР. На следующий год ленинградская команда выиграла Суперкубок СССР, вышла в полуфинал Кубка СССР. В 1986-м заняла четвертое место в чемпионате и четвертый раз подряд вышла в полуфинал Кубка. Но, начиная со следующего сезона, для "Зенита" настал тяжелый период, продолжавшийся целое десятилетие. В 1990-91 и 1993-95 годах команда выступала в первой лиге чемпионатов СССР и России.

Очередное возрождение петербургского футбола пришлось на середину девяностых. Вновь у руля команды встал П. Садырин, в делах клуба наметились серьезные положительные сдвиги. Через два года на тренерском мостике Садырина заменил Анатолий Бышовец. Первый успех после долгого перерыва - в 1997-м году "Зенит" дошел до полуфинала Кубка России.

В 1999-м под руководством молодого тренера Анатолия Давыдова, игрока клуба, только что завершившего карьеру, "Зенит" выиграл Кубок России, одержав волевую победу над московскими динамовцами. И эта победа ознаменовала собой начало, вероятно, лучшего периода в истории команды.

В 2001-м году под руководством вернувшегося в команду тренера-легенды Юрия Морозова "Зенит" стал бронзовым призером чемпионата России. В мае 2002 года "Зенит" дошел до финала Кубка России, но уступил в нем московским армейцам.

Тренерский кризис, поразивший команду с уходом Морозова, неожиданно для футбольной общественности завершился приглашением в "Зенит" первого в России тренера-иностранца – чешского специалиста Властимила Петржелу. Эксперимент оказался удачным: в тот же, 2003-й год команда завоевала серебряные медали чемпионата и стала первым и единственным обладателем Кубка Российской Премьер-лиги.

Осенью 2004-го "Зенит", пройдя два отборочных тура, вышел в групповой этап розыгрыша Кубка УЕФА, и был близок выходу из группы в финальную часть турнира. По итогам чемпионата России "Зенит" занял лишь четвертое место, хотя всего за пять туров до конца первенства команда лидировала.

По мнению футбольных специалистов и в 2005 году "Зенит" должен был стать одним из претендентов на чемпионский титул. В розыгрыше Кубка России команда в очередной раз дошла до полуфинальной стадии, в середине сезона выдала девятнадцатиматчевую беспроигрышную серию в официальных матчах, но опять неудачно провела финиш чемпионата, заняв в итоге только шестое место. Некоторой компенсацией стал первый в истории клуба выход в весеннюю стадию еврокубков, а в дальнейшем – и в четвертьфинал Кубка УЕФА.