袁世凯初以同知分发直隶,周馥方为藩司,言之李鸿章,知其为袁甲三侄也,始稍稍属以事。及世凯骤贵,交通政府,专北洋兵柄,馥反屈意事之。闻其抚山东时,或持北洋一书来谒,即日接见委要差。其人盖浮荡不羁末僚也,藩司以告,馥曰:“吾亦知其不可,慰帅欲之,奈何?”江西教案起,外务部曰:“北洋熟外交,得其人以往,必济。”于是世凯派津海关道梁敦彦往,卒不得要领而还。直隶创公债票,遍张告谕,无应者。日人贪其息,阴出金购之。及粤督请借洋款办新政,户部驳之曰:“洋款流弊多,利权外溢。北洋公债善,可仿行之。”公债之即洋款,部臣非不知之,盖借是以媚袁也。学堂、警察、新军皆萌芽天津,各省督、抚承望风旨,派员北上考察,皆采用其章程,如山东、河南、闽浙诸省,见之奏报,可考而知也。