Великая Отечественная война стала тяжелейшим испытанием для ленинградских архивистов.

Одной из первоочередных задач стала эвакуация наиболее ценных архивных материалов в тыл страны. Подготовка к ней началась уже в июне, а 21 июля 1941 г. эшелон из 57 вагонов в сопровождении 19 архивистов и отряда милиции выехал в город Чкалов (ныне Оренбург). Документы (как центральных, так и ленинградских архивов) были размещены в местном Никольском соборе, впоследствии там была организована специальная «чкаловская группа», которая работала до 1945 г.

Огромную опасность для архивов, оставшихся в блокированном Ленинграде, представляли бомбежки, артиллерийские обстрелы и вызванные ими пожары. Только за сентябрь 1941 — июнь 1942 гг. зафиксированы 20 попаданий бомб и снарядов в здания архивов.

Архивисты готовились к обороне: в каждом хранилище были организованы группы самозащиты, которые вели круглосуточное дежурство; все архивы были обеспечены противопожарными средствами, на чердаках зданий полы засыпались песком, а деревянные конструкции были покрыты огнестойким составом; материалы с верхних этажей перемещались в нижние. Некоторые документы вывезли в более безопасное место.

В результате вражеских бомбежек и артналётов здания, где находились Архивный отдел УНКВД ЛО (наб. Красного флота,4) и ГИА ЛО (ул. Псковская, 18), сильно пострадали.