Немалый разлад царил и среди кавказских сепаратистов — грузинских меньшевиков, армянских дашнаков, азербайджанских мусаватистов, горского комитета. Более умеренная часть их руководителей вела бесконечные переговоры о формировании общего "Комитета единения", на чем настаивали поляки, спонсирующие сепаратистов в целях ослабления России. Но такие переговоры постоянно заходили в тупик и срывались, так как другие деятели тех же партий были против объединения. Дашнаки полагали, что будут там съедены "тюркскими группировками" — тем более, что они имели дополнительные источники финансирования от состоятельных соплеменников из Америки, от англичан, и стало быть, меньше зависели от поляков. И уж подавно они не могли забыть войн с Грузией и резни с азербайджанцами в недолгий период суверенитета. В свою очередь, и многие азербайджанцы выступали против контактов с армянами и грузинами — у них шла постоянная борьба за лидерство, и то одного, то другого деятеля всего лишь за встречи с другими группировками объявляли "изменниками делу пантюркизма". Хотя у некоторых представителей сепаратистов взаимодействие все же налаживалось. Так возник, например, «прометеизм», некий обобщенный антироссийский сепаратизм, названный по журналу «Прометей». Он выходил в Польше, на польские деньги, а сотрудничали в нем и украинцы, и азербайджанцы, и татары.

И вся эта многоликая мешанина, несмотря на раздирающие ее противоречия, нищету, мизерные возможности, тем не менее, представляла собой угрозу власти большевиков. Хотя бы потому, что сохраняла в себе зерна другой, некоммунистической России, предлагала альтернативные пути развития, мыслила самостоятельно, наконец — просто существовала на свете. Как отметил в одной из своих статей П. Н. Милюков, "само наше существование за рубежом России, с сохранением нашего состояния русских, не принявших чужого подданства, уже есть политическое действо. Поэтому всякий из нас, хотя бы он не принимал участие в непосредственных политических актах, одним пребыванием в состоянии эмигранта уже утверждает свою политическую сущность".

Вряд ли можно выделить какую-то "начальную точку" борьбы русской эмиграции и внутренней оппозиции против советского режима. Эта борьба явилась прямым продолжением гражданской войны, велась на ее инерции и с победой большевиков как бы и не прерывалась, разве что стала принимать другие формы. Первый этап ее можно условно датировать 1921-23 гг., когда еще полыхали крестьянские восстания, существовали очаги «зеленого» движения, и поэтому преобладало мнение, что возрождение России начнется через свержение большевиков самим народом. Белая эмиграция готовилась всеми силами поддержать народные выступления, в данном направлении пытались работать совершенно различные политические группировки. Эсер Чернов в период Кронштадтского мятежа выехал в Эстонию, стараясь связаться с повстанцами и сформировать несколько отрядов для действий в РСФСР. Штаб Врангеля разрабатывал планы возвращения армии в Россию и возобновления войны на том или ином театре. Велись переговоры об объединении сил с Савинковым, который брался выставить "однородный идейный кадр до 5000 штыков из отрядов Булак-Балаховича и Перемыкина". П. Н. Краснов доказывал возможность сформировать с помощью Финляндии четыре корпуса и весной 1922 г. развернуть наступление на Петроград…

Но уже вскоре стало ясно, что западные державы отнюдь не намерены поддерживать военные начинания — наоборот, они всеми силами препятствовали возникновению новых и сохранению прежних белых формирований. И уж тем более не намеревались ссориться с Советами прибалты, трясущиеся над мирными договорами с большевиками и наивно уверовавшие в обеспечение таким образом своего суверенитета. Поэтому вскоре борьба перешла к подпольным формам это облегчалось тем, что у эмигрантов остались в России знакомые, друзья, единомышленники, а граница еще не стала "железным занавесом", позволяя поддерживать связь с ними.

Особую активность в данный период проявил Савинков, создавший "Русский политический комитет" в Варшаве. Как он вспоминал впоследствии: "Мысль моя была такова, чтобы попытаться придать более или менее организованную форму зеленому движению, попытаться вызвать большое массовое крестьянское восстание, посылать в Россию людей именно с этими задачами".

Он организовал "Информационное бюро" для связи между собой разрозненных очагов и отрядов «зеленых». Была разработана структура волостных, уездных и губернских руководителей, каждый из которых имел бы свои формирования. Засылалась агентура, которая сумела закрепиться в Москве, Чернигове, Харькове, Киеве, Курске, проникла в командование Красной Армии. Можно отметить, что в принципе, направление было выбрано правильно в конечном итоге, одной из основных причин быстрого подавления зеленого движения, в количественном отношении значительно превосходившего белогвардейцев, было как раз отсутствие серьезной организации. Каждый отряд действовал сам по себе, и даже в главных очагах сопротивления, таких как «антоновщина», «махновщина», Западно-Сибирское восстание, общая организация не выходила за пределы нескольких губерний.

Летом 1921 г. Савинков созвал совещание своих единомышленников, на котором было объявлено о создании "Народного Союза Защиты Родины и Свободы" (НСЗРиС). Предполагалось действовать в контакте с правительствами Франции и Польши. Программа Союза отмежевалась от белогвардейцев и провозглашала борьбу за "третью, новую Россию" — т. е. с ориентацией на «зеленых». При этом отвергалась возможность соглашения с "Врангелями прошедшего, настоящего и будущего". Вероятно, как хитрый и достаточно беспринципный политик, Савинков учел напряженные отношения, сложившиеся к этому времени у Врангеля с французами, добивающимися роспуска его армии, и счел за лучшее отмежеваться от генерала, рассчитывая на более благосклонное отношение Запада. Но наверняка сыграла роль и непопулярность белогвардейцев в Белоруссии и западных областях России, где о них знали только из советской и польской пропаганды. Собственную формулу успеха Савинков составил из трех слагаемых — "крестьянство, плюс авторитетный вождь, плюс иностранная помощь".

Но во второй половине 1921 г. массовое крестьянское движение быстро пошло на спад в результате жесточайшего подавления и катастрофического голода. А разрозненные зеленые отряды, продолжавшие укрываться в лесах и горах, уже не представляли реальной угрозы большевистскому режиму. Туго оказалось и с иностранной помощью. Савинков обращался к У. Черчиллю, военному министру Польши К. Соснковскому, доказывая, что его организация представляет "единственную реальную антибольшевистскую силу, не сложившую до сих пор оружия". Большую помощь в наведении полезных контактов оказал симпатизировавший Савинкову британский «суперагент» Сидней Рейли, такой же авантюрист по натуре и бескомпромиссный враг красных. Он хлопотал в Англии, Америке, достиг успеха в переговорах с видным. политическим деятелем Чехословакии доктором Крамаржем, пытался связаться с Муссолини. Тем не менее, результаты были мизерными, и НСЗРиС едва удавалось сводить концы с концами.

Несколько раз отряды Перемыкина, Павловского, Булак-Балаховича, Войцеховского, Васильева переходили границу и вторгались на советскую территорию, пытаясь своими действиями разжечь огонь восстаний и стать центром кристаллизации народной стихии. Но и результаты их операций оставляли желать лучшего. Из-за недостатков финансирования и снабжения эти отряды были слабыми, столкновений с крупными соединениями большевиков им приходилось избегать, и борьба ограничивалась рейдами по глухим деревням там несколько убитых красноармейцев или милиционеров, там разгромленный сельсовет… Редко когда выпадал более значительный успех, вроде кратковременного захвата Павловским захолустного городишки Демянска. Вместо ожидаемой поддержки, больше было крестьянского недовольства, поскольку вслед за налетом савинковцев следовали карательные экспедиции красных с репрессиями, обыском, грабежами, выявлением «сочувствующих» и «пособников». Так, Лясковичская волость Бобруйского уезда была сожжена дотла. В других местах десятками брались по деревням и расстреливались заложники. Особыми зверствами прославился в Белоруссии карательный отряд Стока, применявший пытки и жесточайшие расправы. Практиковалась тут и другая мера воздействия — саму Белоруссию голод обошел стороной, но жителей деревень, проявивших сочувствие к зеленым или савинковцам, было решено депортировать в голодные районы. То есть, на верную смерть.