Кладбище основано в 1831 году в связи с разразившейся в Санкт-Петербурге эпидемией холеры. Находилось на территории между железнодорожными линиями Балтийского и Варшавского вокзалов, близ деревни Тентелевка. Изначально называлось Тентелевским. Подчинялось городской полиции, отпеваний и панихид при погребении, как правило, не совершалось.

Высочайше утвержденным 11 декабря 1834 г. положением Комитета министров рядом с холерным участком учреждено городское православное кладбище, которое подчинялось епархиальному начальству. В 1835 на кладбище перенесена старая деревянная церковь Измайловского полка, которая была освящена во имя новопрославленного святого Митрофана, епископа Воронежского. По наименованию церкви кладбище стало называться Митрофаньевским (Митрофановским).

В 1839–1847 гг. на кладбище по проекту архитектора К.А. Тона построен каменный храм, также освященный во имя святого Митрофана Воронежского. Старую деревянную церковь разбирать не стали, и в 1859 году после ремонта вновь освятили в честь Спаса Всемилостивого. В 1885–1887 годах возвели третью кладбищенскую церковь – Сошествия Святого Духа. Так же у ворот кладбища стояла часовня Александра Невского.

Кладбище подразделялось на 7 разрядов, различавшихся по стоимости погребения. Самые дорогие участки 1-го и 2-го разрядов находились в самой Митрофаньевской церкви и около нее; участки 7-го разряда предназначались для бесплатных захоронений умерших в больницах, богадельнях, полицейских приемных домах и др. Неоднократно происходило перераспределение разрядов с увеличением площади дешевых и бесплатных за счет дорогих, что сделало его популярным местом погребения многих актеров и литераторов среднего достатка. На кладбище также были похоронены такие известные люди, как адмирал В.М. Головнин, его сын – министр народного просвещения А.В. Головнин, генерал кн. Н.С. Голицын, сенатор П.И. Сумароков, известная пианистка М. Шимановская.

В 1838, 1848, 1860, 1865, 1871 и др. годы Митрофаньевское кладбище неоднократно расширяло свои границы. К началу XX века кладбище стало одним из самых больших в городе.

На основании декрета СНК от 7 декабря 1918 г. «О кладбищах и похоронах» Митрофаньевское кладбище поступило в ведение местного Совета депутатов. Закрыто в 1927 году.

Алфавиты погребенных (1902-1917 гг.) и книга записи погребенных (1917 г.).