Институт Петр Николаевич заканчивает в 1901 году и в том же году он вступает вольноопределяющимся в лейб-гвардии Конный полк. На следующий год он был произведен в корнеты, сдав экзамен на офицерский чин при Николаевском кавалерийском училище. Затем, уволившись в запас, он едет в Иркутск на должность чиновника для особых поручений при генерал-губернаторе. Начавшаяся русско-японская война 1904—1905 годов застает его в Сибири, и Петр Николаевич, вновь поступив на действительную военную службу, отправляется на Дальний Восток. Там Врангель был зачислен в состав 2-го Аргунского полка Забайкальского казачьего войска.
В декабре 1904 года был он произведен в сотники – «за отличие в делах против японцев». Во время войны за отвагу и храбрость он получил свои первые боевые ордена – Св. Анны 4-й степени и Св. Станислава. В 1905 году он служил в отдельном дивизионе разведчиков 1-й Маньчжурской армии и к концу войны досрочно получил звание подъесаула. Во время войны Петр Николаевич укрепился в желании стать кадровым военным.
Первая русская революция 1905—1907 годов прошлась и по Сибири, и Врангель в составе отряда генерала А. Орлова принимал участие в усмирении бунтов и ликвидации погромов, сопровождавших революцию.
В 1906 году он в чине штаб-ротмистра был переведен в 55-й драгунский Финляндский полк, а на следующий год – он поручик лейб-гвардии Конного полка.
В том же 1907 году Петр Николаевич поступает в Николаевскую военную академию Генерального штаба, которую окончил в 1910 году в числе лучших – седьмым по списку. Кстати сказать, на одном курсе с Врангелем учился будущий маршал Советского Союза Б. Шапошников.
В 1911 году он проходит курс в офицерской кавалерийской школе, получает под свое командование эскадрон и становится членом полкового суда в лейб-гвардии Конном полку.
Начавшаяся Первая мировая война привела Врангеля на фронт. Вместе с полком в чине ротмистра гвардии он вошел в состав 1-й армии Северо-Западного фронта. Уже в первые дни войны он сумел отличиться. Так, 6 августа 1914 года его эскадрон атаковал и захватил немецкую батарею. Наградой ему стал орден Св. Георгия 4-й степени. После неудачной Восточно-Прусской операции русские войска отступили, но, несмотря на то что практически не велось активных боевых действий, Петр Николаевич неоднократно награждался за храбрость и героизм. Он был произведен в полковники и награжден Георгиевским золотым оружием. Для него звание офицера имело большой смысл, и он говорил, что обязан личной храбростью подавать пример подчиненным.
В октябре 1915 года Врангель был переведен на Юго-Западный фронт и принял под свое командование 1-й Нерчинский полк Забайкальского казачьего войска. При переводе ему была дана следующая характеристика его бывшим командиром: «Выдающейся храбрости. Разбирается в обстановке прекрасно и быстро, очень находчив в тяжелой обстановке».
Под его командованием полк сражался в Галиции и участвовал в знаменитом «Брусиловском прорыве». В 1916 году Врангель был произведен в генерал-майоры и стал командиром 2-й бригады Уссурийской конной дивизии. К концу войны он уже возглавлял дивизию.
Петр Николаевич по своим убеждениям был монархистом, но часто критиковал в разговорах как высший командный состав, так и лично императора Николая II. Неудачи в войне он связывал со слабостью командования. Он считал себя истинным офицером и предъявлял высокие требования как к себе, так и к любому, кто носил офицерские погоны. Врангель повторял, что если офицер допускает то, что его приказ может быть не выполнен, то «он уже не офицер, на нем офицерских погон нет». Он пользовался большим уважением среди сослуживцев-офицеров и простых солдат. Главным в военном деле он считал воинскую доблесть, ум и честь командира и строгую дисциплину.
Февральскую революцию Петр Николаевич принял сразу и присягнул на верность Временному правительству. Но начавшийся вскоре развал армии очень тяжело отразился на ее душевном состоянии. Не желая и дальше принимать в этом участия, Врангель, сославшись на болезнь, отправляется в отпуск и уезжает в Крым. Почти год он ведет очень замкнутый образ жизни, ни с кем практически не общаясь.
Но летом 1918 года Петр Николаевич решает действовать. Он приезжает в Киев к бывшему командиру лейб-гвардии Конного полка генералу, а ныне гетману Скоропадскому и встает под его знамена. Но гетмана мало заботило возрождение России, он вел борьбу за «самостийность» Украины. Из-за этого между ним и Врангелем стали возникать конфликты, и вскоре Петр Николаевич решается уехать в Екатеринодар к Деникину.
Вступив в Добровольческую армию, Врангель получает под свое командование кавалерийскую бригаду, с которой принял участие во 2-м Кубанском походе. Имея за плечами большой боевой опыт, не растеряв отвагу, решительность и смелость, Врангель очень скоро получил признание как отличный командир, и его командованию была доверена сначала 1-я кавалерийская дивизия, а через два месяца и весь 1-й кавалерийский корпус. В армии он пользовался большим авторитетом и часто обращался к войскам с яркими патриотическими речами. Его приказы всегда отличались ясностью и четкостью. В декабре 1918 года он был произведен в генерал-лейтенанты. Следует отметить, что Петр Николаевич ни при каких обстоятельствах не допускал ослабления или нарушения дисциплины. Например, во время успешных операций на Украине в Добровольческой армии участились случаи мародерства. Многие командиры закрывали на это глаза, оправдывая действия подчиненных плохим снабжением армии. Но Врангель не желал мириться с этим и даже применял во вверенных ему частях публичные казни мародеров в назидание другим.
Успешные действия на юге значительно увеличили фронт наступления. В конце мая 1919 года было принято решение о создании новой Кавказской армии для действий на Нижней Волге. Командующим армией был назначен Врангель. Наступление Кавказской армии началось успешно – были взяты Царицын и Камышин и предпринят поход на Саратов. Но уже к осени 1919 года против Кавказской армии были стянуты крупные силы Красной армии, и ее победоносное наступление было остановлено. Кроме того, от Врангеля в Добровольческую армию, которая наступала к Туле и Москве, были переведены все резервы, что значительно ослабило Кавказскую армию.
Потерпев сокрушительное поражение под контрударами Южного фронта, Добровольческая армия отступила. Остатки белых армий были сведены в один корпус под командованием Кутепова, а Врангелю было поручено отправиться на Кубань для формирования новый полков. К этому времени разногласия между ним и Деникиным, начавшиеся еще летом 1919 года, достигли наивысшей точки. Петр Николаевич критиковал Деникина и за методы военного руководства, и по вопросам стратегии, и за проводимую им гражданскую политику. Он выступал против предпринятого похода на Москву и настаивал на соединении с Колчаком. Результатом разногласий стало то, что Врангель был вынужден оставить армию и уехать в Константинополь.
В марте 1920 года Деникин подает в отставку и просит Военный совет найти ему замену. Новым главнокомандующим Вооруженных сил Юга был избран (единогласно) Петр Николаевич Врангель.
Вступив в должность, Врангель начал первым делом приводить армию в порядок и занялся ее переформированием. Генералы, чьи войска отличались недисциплинированностью, – Покровский и Шкуро, – были уволены. Врангель изменил и название армии – теперь она стала называться Русской армией, что, по его мнению, должно было бы привлечь в ее ряды больше сторонников. Он сам и созданное им «Правительство Юга России» пытались создать на территории Крыма новое государство, которое могло бы вести борьбу с Советами примером лучшего государственного устройства. Проведенные правительством реформы не возымели успеха, и поддержка народа не была получена.
В начале лета 1920 года Русская армия насчитывала в своих рядах 25 тысяч человек. Врангель провел успешную военную операцию по захвату Северной Таврии, воспользовавшись тем, что основные силы Красной армии находились в Польше В августе он отправляет на Кубань морской десант, который, не встретив там поддержки казаков, вернулся в Крым. Осенью 1920 года Русская армия пыталась вести активные действия по захвату Донбасса и прорыву на Правобережную Украину. Численность армии Врангеля к этому времени достигла 60 тысяч человек.