22 мая (3 июня) 1896 года состоялось подписание секретного Российско-китайского договора о союзе России и Китая против Японии (т.н. Московского договора). С российской стороны подписи под договором поставили С. Ю. Витте и князь А. Б. Лобанов-Ростовский, с китайской (Цинской) стороны — Ли Хунчжан. Договор предоставил России право на постройку железнодорожной магистрали через территорию Манчжурии. 27 августа (8 сентября) 1896 года китайский посланник в Российской империи Сюй Цзэнчэн подписал с правлением Русско-Китайского банка соглашение, со сроком действия 80 лет, о предоставлении банку права на постройку железной дороги через Маньчжурию.
В декабре 1896 года в Петербурге состоялись выборы правления Общества КВЖД. По результатам выборов вице-председателем правления стал С. И. Кербедз, членами правления — П. М. Романов, А. Ю. Ротштейн, Д. Д. Покотилов, Э. К. Циклер фон Шафгаузен, Э. Э. Ухтомский. В январе 1897 года император Китая издал указ о назначении бывшего посланника Китая в Петербурге и Берлине Сюй Цзэнчэна первым председателем Общества КВЖД.
Подбором специалистов для прокладки КВЖД руководил лично С. Ю. Витте, по рекомендации которого главным инженером КВЖД был назначен строитель Рязанско-Уральской железной дороги А. И. Югович. Пунктом расположения Строительного управления по возведению КВЖД, который поначалу назвали «железнодорожным посёлком Сунгари», был выбран участок на берегу реки Сунгари (Сунхуацзян), в месте её предполагаемого пересечения железнодорожной магистралью, где впоследствии встал город Харбин. 24 апреля 1897 года на берега Сунгари прибыл авангардный отряд Строительного управления КВЖД, во главе с инженером А. И. Шидловским, под охраной пешей Кубанской полусотни есаула Павиевского. В целях охраны строительства КВЖД была создана специальная Охранная стража, позднее преобразованная в Заамурский округ отдельного корпуса пограничной стражи.
