Полк формировался на станции Правда Ярославской ж.д., здесь в это время уже дислоцировался Отдельный батальон особого назначения НКВД, состоявший в резерве начальника ГУПВ НКВД. В последствие последний был обращен на формирование 40-го мотострелкового полка Особого назначения, также переданного в резерв начальника ГУПВ НКВД.
Предполагалось, что существовало первое формирование 34-го стрелкового полка ОВ НКВД, но достаточных оснований, подтверждающих эту версию найти не удалось, пока.