Лифляндская губерния, хотя и была исключена из состава ополчения, но добровольно сформировала отряд численностью 2260 человек и конный казачий полк из 2000 всадников. Задача этих частей заключалась "в ограждении границ от нападения неприятельских отрядов и мародеров". В Дерптском и Перновском уездах собрали 200 стрелков и столько же на острове Эзель. А еще в апреле 1812 года в Дерпте формировался отряд конных стрелков (70 человек) на средства и под предводительством отставного поручика Нирода. Другой отставной поручик Шмит тоже создал подобный отряд (330 человек), именовавшийся "волонтерский корпус". Еще один, так называемый "корпус вольных конных и пеших лифляндских егерей", имел в своем составе конную и 2 пеших роты. Кроме того, 57 студентов Дерптского университета, обучавшихся медицинским наукам, вместе с профессором Эльспером поступили врачами в ополчение.
Из жителей занятой французами Курляндии был создан отряд вольных курляндских стрелков. Всадники этого отряда назывались форшт-егерями, то есть лесными охотниками. На территории Эстляндской губернии была учреждена гражданская стража, "которая заменила войско в содержании караулов".
Все вышеперечисленные формирования какой-либо утвержденной формы одежды не имели. Основу ее составлял латышский национальный костюм. Ополченцы из лесников и объездчиков носили форму Лесного ведомства: двубортный укороченный темно-зеленый сюртук со светло-зелеными воротником и обшлагами, белыми пуговицами. Стрелки вооружены были ружьями, в том числе охотничьими, а также штуцерами, штыками и кортиками. Кавалеристы имели сабли, пики, пистолеты и карабины. Наряду с подсумками распространены были патронташи.