爆发于1894年的甲午中日战争，让清朝政府意识到创建新式军队的重要性。于是1895年，在恭亲王奕?、直隶总督荣禄等大臣联名奏请下，光绪帝派遣袁世凯前往天津小站创办新军。袁世凯到达天津以后，运用西方先进的军事管理经验，聘请外国教官，模仿德国的现代陆军制度创建了中国近代史上第一支正式的新式陆军，史称“北洋军阀”。
负责创建北洋新军的袁世凯，他身边的左膀右臂徐世昌、唐绍仪，以及新军中的骨干力量冯国璋、段祺瑞、王士珍、曹锟、王占元、段芝贵、李纯等，构成了新军的核心力量。在1898年的戊戌变法中，袁世凯揭发了梁启超、谭嗣同等人意图发动军事政变的计划，从而得到了慈禧的信任，一定程度上也提升了北洋新军的地位。
1899年，袁世凯由户部侍郎升任山东巡抚，成为封疆大吏。1901年，在李鸿章去世以后，袁世凯更是受命署理直隶总督兼北洋大臣，一跃成为中外瞩目的政治人物。袁世凯的左膀右臂冯国璋和段祺瑞也得到高升，段祺瑞出任北洋军政司参谋处总办，冯国璋则出任中央练兵处军学司正使。就此，以袁世凯为中心，出身于北洋新军体系的军人逐个步入政坛，并形成了以段祺瑞和徐树铮为首的皖系军阀，以及以冯国璋、曹锟为首的直系军阀。