В июле 1747 году, на основании предписания Святейшего Синода в Главную полицмейстерскую канцелярию об отыскании в С.-Петербурге места для «кладбища и чужестранных и иноверных иноземцев», на Васильевском острове «подле Чухонской деревни» по правому берегу р. Черной (позднее – р. Смоленка) выделен участок для размещения иноверческого кладбища. Определением полицмейстерской конторы от 30 января 1748 г. он отведен для погребения лиц, не относящихся к православному вероисповеданию. Кладбище приписывалось к евангелическо-лютеранской церкви св. Екатерины и подчинялось ее церковному совету. Надзор за содержанием кладбища, его благоустройством и сохранностью надгробных памятников закреплялся за церковным советом храма св. Екатерины на основании высочайше утвержденного 28 декабря 1832 г. устава Евангелическо-Лютеранской церкви в России.

Границы кладбища окончательно установлены в 1836 году в результате приобретения церковным советом церкви св. Екатерины 10 апреля 1836 г. у статского советника С.С.Киреева прилегающего к кладбищу участка земли для расширения его границ и погребения тел на этой территории. Большая часть суммы на покупку земли была ассигнована Государственным заемным банком благодаря протекции шефа жандармов графа А.Х.Бенкендорфа.

Церковному совету принадлежало право устанавливать размер платы за погребальные услуги: с прихожан церкви св. Екатерины взималось 20 руб. за квадратный аршин земли, с членов других приходов – 50 руб. Непосредственный надзор за кладбищем осуществлял смотритель, который назначался церковным советом. Владелец участка был обязан сообщать смотрителю о проведении любых работ на участке, предоставив квитанцию на право владения и указав могилу. Если у потомков не было возможности поддерживать надгробие в надлежащем порядке – его убирали, заброшенные могилы по истечении 25 лет поступали в распоряжение церковного совета.

На кладбище в разное время были захоронены основатель Одессы адмирал И.М. де Рибас, директор Царскосельского лицея Е.А.Энгельгардт, архитекторы Н.Ф.Брюллов и П.Ю.Сюзор, хирург Р.Р.Вреден, основатель русского почвоведения В.В.Докучаев, владелец С.-Петербургского цирка Г.Чинизелли и многие другие. В 1882 году советом церкви издан перечень всех разрушенных или представляющих опасность разрушения надгробий на кладбище.

На основании декрета СНК от 7 декабря 1918 г. «О кладбищах и похоронах» Смоленское лютеранское кладбище поступило в ведение местного совета депутатов. В 1939 году кладбище закрыто, но отдельные захоронения продолжались вплоть до 1950-х гг.

Алфавиты погребенных (1911–1915 гг.) и книга записи погребенных (1912–1919 гг.).