8 сентября 1896 года в Берлине было подписано специальное соглашение об условиях строительства магистрали. По желанию китайской стороны финансировать строительство должен был только что учрежденный Русско-Китайский банк, в который китайское правительство внесло около 18 миллионов франков. Устав банка разрешал получение концессий на строительство железных дорог. Берлинское соглашение предусматривало учреждение банком Общества Китайско-Восточной железной дороги. Акции общества могли приобретать как китайские, так и русские подданные.
Китайское правительство отказывалось от всякого вмешательства в финансовую сторону деятельности общества, то есть все доходы от эксплуатации построенной дороги освобождались от каких бы то ни было сборов и налогов. Правда, предусматривалась возможность выкупа Китаем дороги через 30 лет после окончания ее строительства. Спустя 80 лет после начала эксплуатации КВЖД бесплатно передавалась китайской стороне.
Общество Китайско-Восточной железной дороги должно было построить и эксплуатировать дорогу за собственный счет. В течение всех 80 лет с момента ее ввода в эксплуатацию китайское правительство не несло ответственности и не покрывало возможный финансовый дефицит. Основной пакет акций принадлежал Министерству финансов Российской империи, следовательно, все возможные издержки должны были покрываться Россией.
По Берлинскому соглашению России не разрешалось иметь свои войска на территории Северной Маньчжурии, где предполагалось строительство (хотя для ее охраны все же был создан сильный Заамурский корпус пограничной стражи). После окончания работ была возможна только лишь транзитная перевозка войск между станциями на российской территории «без остановок в пути под каким бы то ни было предлогом».
В январе 1897 года в Санкт-Петербурге начало свою деятельность строительное управление КВЖД, которое возглавил серб по национальности А.И. Югович, инженер-строитель, известный специалист по сооружению железных дорог в пустынных и горных местностях.
Железную дорогу строили в малоосвоенных землях. Строителям приходилось преодолевать нетронутые массивы девственных лесов, пустыни, горные хребты, бурные реки. К тому же на этой территории Китая была весьма слабая администрация, неспособная защитить даже местное население от разбойных банд (хунхузов). В Северной Маньчжурии полностью отсутствовала какая-либо промышленность: все, до последнего гвоздя, приходилось доставлять чуть ли не кругосветным путем из Одессы во Владивосток. Отсутствовали пригодные для перемещения большого количества грузов дороги для гужевого транспорта. Зимой морозы достигали 40 градусов, летом приходилось преодолевать последствия катастрофических ливней.
Строительство КВЖД велось прогрессивными методами. Мосты возводились из железа или камня. Всего было сооружено 1464 моста, проложено 9 туннелей, из них два протяженностью более трех километров. Уникальным для тех лет стал двухпутный Хинганский туннель, построенный под руководством русского инженера Н.И. Бочарова. На строительстве дороги трудились почти 200 тысяч китайских рабочих, которым приходилось обеспечивать вооруженную охрану от частых нападений банд хунхузов.
2 ноября 1901 года на всем протяжении КВЖД была завершена укладка рельсов, и дорога открылась для временной эксплуатации. Регулярное движение по всей магистрали началось 13 июля 1903 года. Административно-техническим центром КВЖД стал город Харбин, который имел русские кварталы.
Новая железнодорожная магистраль, соединившись с Транссибирской, имела один серьезный недостаток. Единая трасса, связывавшая Порт-Артур с Россией, имела 160-километровый разрыв в районе озера Байкал. Перевозка по нему железнодорожных вагонов осуществлялась двумя паромами-ледоколами. В зимнюю стужу рельсовый путь прокладывался прямо по байкальскому льду. Участок вокруг южной части озера Байкал решили не строить из-за высокой стоимости и сэкономили на этом 25 миллионов рублей.
Одновременно Россия разрешила проблему незамерзающей военно-морской базы, что было настоятельной необходимостью в военном противостоянии с Японией. В декабре 1897 года русская эскадра вошла в Порт-Артур, а в марте 1898-го с Китаем был подписан договор об условиях аренды на 25 лет южной части Ляодунского полуострова (так называемой Квантунской области) с портами и прилегающими островами. Порт-Артур превращался в главную военную базу русской Тихоокеанской эскадры, а соседний порт Дальний объявлялся открытым коммерческим портом.
Скрытый раздел Китая получил новое развитие. Великобритания компенсировала усиление России захватом Вэйхайвэя (Вей-Хай-Вея) и установлением своего контроля над бассейном реки Янцзы. Лондон добился от Пекина 99-летней аренды значительной части полуострова Цзюлун (или, иначе, Коулун — район современного города Сянгана), расположенного на материке напротив британской островной колонии Гонконг на юге Китая.
Франция получила морскую базу и железнодорожные концессии в приграничных с французским Индокитаем китайских провинциях. Париж получил в аренду побережье Гуанчжоуваньского залива близ острова Хайнань.
Германия занимает своими войсками Цзяочжоу, затем она еще больше расширит захваченную территорию. В Циндао, на берегу Желтого моря, она начинает строить крупную военно-морскую базу и крепость (в самом начале Первой мировой войны ее силой оружия захватят японцы).
Приобретение Квантуна с Порт-Артуром и портом Дальним российская общественность встретила с известной долей одобрения и понимания. Участник Русско-японской войны 1904—1905 годов контр-адмирал Д.В. Никитин писал:
«Наше правительство предприняло в 1898 году очень смелый, но вполне правильный и своевременный шаг: оно заняло военной силой Квантунский полуостров, получив на это согласие Китая. Оно ясно сознавало, что путь к владению Владивостоком лежит через Порт-Артур. Оставалось только по мере усиления Японии своей военной мощи соответственно увеличивать сухопутную и морскую оборону вновь занятой области. Самые крупные расходы, которые приходилось бы при этом нести, несомненно, являлись бы каплей в море по сравнению с тем, что стоило бы оборонять рядом крепостей грандиозной длины границу вдоль реки Амур. Нечего говорить и о том, что они представлялись бы прямо ничтожными, если учесть тот моральный и материальный ущерб, какой понесла Россия в результате неудачной войны».
На Японских островах занятие Квантунского полуострова русскими вызвало очередной взрыв народного возмущения. «Занятие вами Порт-Артура проложило глубокую борозду между Россией и Японией, — говорил японский посланник в Лондоне виконт Хаяши российскому посланнику. — Это занятие породило в японцах и несомненную жажду мщения».
Неприязнь японцев к России была в те годы столь велика, что, по их собственному выражению, «они спали на хворосте, питались желчью и хотели небо пронзить своей ненавистью». Квантун, который они завоевали в войне с Китаем, в итоге оказался в руках их северного соседа, у «белых варваров». Россия «рисовалась японцам то в виде акулы, то в роли голодного тигра».
То, что Франция, Россия и Германия заставили Страну восходящего солнца вернуть побежденному Китаю Квантунский полуостров, наибольшее возмущение вызвало в рядах императорской армии. Известен факт, что в знак протеста против этого решения сорок высших чинов японской армии совершили харакири.
В Корее тоже начало заметно усиливаться влияние России. В 1897 году туда прибыли русские военные инструкторы для организации на европейский лад королевской армии и финансовый советник. Ему предстояло заняться устройством денежных дел в стране. В Токио же считали Корейское королевство сферой своего исторического влияния.
Милитаристские круги Страны восходящего солнца стали оказывать на официальный Токио сильное влияние. Руководитель концерна «Мицуи», которому суждено было стать одним из столпов японской военной промышленности, Такахаси Ёсио, в следующих словах высказал позицию сторонников войны с Россией: