Директива СНК СССР и ЦК ВКП(б) от 29 июня 1941 года «О мобилизации всех сил и средств на разгром фашистских захватчиков», выступление Сталина по радио 3 июля и постановление ЦК ВКП(б) от 18 июля 1941 года «Об организации борьбы в тылу германских войск» предполагали в числе прочего создание в тылу противника «невыносимых условий» для врага и его пособников, формирование партизанских отрядов и диверсионных групп для взрыва мостов, дорог, порчи телефонной и телеграфной связи, поджогов лесов, складов и обозов».
Для руководства разведывательно-диверсионными группами НКВД, действующими в тылу противника, 5 июля 1941 года была организована Особая группа при наркоме НКВД с бывшим заместителем начальника 1-го управления НКВД старшим майором госбезопасности П. А. Судоплатовым, 3 октября 1941 года Особая группа была преобразована во 2-й отдел НКВД и начальником которого по-прежнему был П. Судоплатов. Для проведения операций в тылу противника при 2-м отделе был сформирован Отдельный мотострелковый батальон особого назначения (ОМСБОН). А 18 января 1942 года приказом НКВД СССР на основе 2-го отдела НКВД было организовано 4-е управление НКВД (разведка, террор и диверсии в тылу противника). Начальником управления стал П. Судоплатов, заместителями— старший майор госбезопасности Н. Д. Мельников и майор госбезопасности В. А. Какучая. 20 августа 1942 года заместителем начальника 4-го управления был также назначен старший майор госбезопасности Н. И. Эйтингон. Штат управления был определен в 113 человек. В 4-е управление входили секретариат, финансовая группа, информационно-учетное отделение, 1-й отдел (3 географических отделения и отделение по работе с военнопленными и интернированными), 2-й отдел (7 географических отделений, отделение вербовки агентуры среди заключенных лагерей и учетное отделение), 3-й отдел (3 отделения и 2 отряда взрывников), 4-й отдел (2 отделения), отдельная рота саперов и Штаб истребительных батальонов и партизанских отрядов. С военными подразделениями 4-го управления дело обстояло следующим образом. 26 июня 1941 года приказом НКВД были сформированы войска Особой группы. Начальником этих войск был назначен комбриг Павел Михайлович Богданов, заместителем начальника (с октября 1941 года — начальник) — Михаил Федорович Орлов, начальником штаба — Вячеслав Васильевич Гриднев (в 1942—1943 годах командовал ОМСБОНом). Особая группа включала в себя две бригады, состоявшие из батальонов, которые в
свою
очередь делились на отряды, а отряды — на спецгруппы.
В октябре 1941 года войска_ Особой труппы были переформированы в Отдельную мотострелковую бригаду особого назначения (ОМСБОН). Она состояла из двух мотострелковых полков: четырехбатальонного и трехбатальонного, со специальными подразделениями. К последним относились отряды спецназначения, школа младшего начсостава и специалистов, саперно-подрывная рота, авторота и рота связи. В октябре 1943 года бригада была полностью переориентирована на выполнение спецзаданий командования в тылу врага и переименована в Отдельный отряд особого назначения НКГБ СССР.
14 апреля 1943 года из состава НКВД СССР вновь, как и в 1941 году, был выведен самостоятельный Наркомат государственной безопасности СССР (НКГБ), который возглавил комиссар госбезопасности 1-го ранга В. Меркулов.
Разведка вошла в НКГБ в виде 1-го управления, начальником которого был назначен П. М. Фитин.
4-е управление было передано Наркомату государственной безопасности и под тем же номером просуществовало до 1946 года, когда было упразднено 9 октября 1946 года.
Одним из важнейших направлений работы внешней разведки было получение информации по нацистской Германии. До войны разведка имела там неплохие позиции. Однако с началом войны связь практически со всеми агентами была утеряна. Более того, к августу 1942 года гестапо ликвидировало разведывательную сеть внешней разведки, позднее ставшую известной под названием «Красная капелла». В результате сколь-нибудь систематической разведывательной работы на территории Германии в годы войны внешней разведке организовать не удалось.
Гораздо больших успехов достигла внешняя разведка, ведя работу по Германии с территории других стран. Легальная резидентура в Швеции под руководством Б. А. Рыбкина создала несколько опорных пунктов — в портах Норвегии, на севере Финляндии и в южных портах Швеции, где велось наблюдение за переброской войск и германо-шведскими экономическими поставками.
Одной из наиболее успешных резидентур в годы войны была лондонская легальная резидентура. Несмотря на ограниченный состав (в 1941 году— 4 сотрудника, в 1944 году- 12 сотрудников), резидентура сумела обеспечить Москву секретной информацией о. переписке Черчилля с Рузвельтом, получить доступ к документам военного кабинета Англии и к информационным сводкам английской разведки. Огромную роль в этот период сыграла агентурная группа резидентуры, известная как «кембриджская пятерка».
Необходимо сказать об атомной разведке. Работа по данной проблеме велась с 1939 года. В дальнейшем сбором информации по атомному оружию занимались как ГРУ РККА, так и научно-техническая разведка 1-го управления НКВД-НКГБ. Однако в июле 1943 года головная роль в атомной разведке согласно постановлению ГКО отводилась 1-му управлению НКГБ. Перед органами внешней разведки по атомной проблеме были поставлены конкретные задачи:
определить круг стран, ведущих практические работы по созданию атомного оружия;
оперативно информировать Центр о содержании этих работ;
через собственные агентурные возможности приобретать необходимую научно-техническую информацию, способствующую созданию подобного оружия в СССР.
В феврале 1944 года для перевода и обработки информации по атомному проекту, полученной оперативно-агентурным путем, в составе НКВД СССР была создана специальная группа «С» во главе с комиссаром госбезопасности 3-го ранга П. Судоплатовым. 20 августа, после взрыва первой американской атомной бомбы, для координации усилий по решению атомной проблемы был создан Специальный комитет при ГКО, а затем при Совете Министров СССР, который возглавил Л. Берия. Чуть позже, 27 сентября 1945 года, для добывания и обработки разведданных по атомной проблеме в составе НКВД был организован отдел «С» во главе с П. Судоплатовым. Заместителями начальника отдела «С» были назначены Н. С. Сазыкин, А. 3. Кобулов (по совместительству) и заместитель начальника 4-го управления НКГБ Н. И. Эйтингон. А 10 января 1946 года отдел «С» из состава НКВД был передан в НКГБ. После образования МГБ СССР отдел был передан в его структуру.
Заслуги сотрудников внешней разведки в годы войны были высоко оценены правительством. Так, 5 ноября 1944 года начальник 1-го управления НКГБ П. М. Фитин был награжден орденом Красного Знамени. А всего этим указом было награждено 87 сотрудников внешней разведки. Тогда же, 5 ноября, ордена Суворова 2-й степени получили начальник 4-го управления НКГБ П. А. Судоплатов и начальник 5-го управления НКГБ И. Г. Шевелев. Всего за работу в тылу противника было награждено 1494 сотрудника НКГБ, из них 16 сотрудникам было присвоено звание Героя Советского Союза (пятерым из них посмертно). Героями Советского Союза тогда стали разведчики Н. И. Кузнецов и Д. Н. Медведев.
Период «великих» реорганизаций
После окончания войны органы госбезопасности СССР подверглись очередной реорганизации. 15 марта 1946 года НКГБ СССР был преобразован в Министерство государственной безопасности СССР, министром государственной безопасности был назначен В. Меркулов, но на этом посту он оставался немногим больше месяца: 4 мая 1946 года его освободили от занимаемой должности, а 25 апреля 1947 года назначили начальником Главного управления советским имуществом за границей при Совете Министров СССР. Меркулова сменил бывший начальник ГУКР Смерш Министерства вооруженных сил СССР генерал-полковник Виктор Семенович Абакумов.