光绪二十二年（一八九六年），张之洞回任湖广总督。黎元洪应张之洞之召随同回到湖北家乡，在湖北枪炮厂负责监制快炮，从此结束二十余年的北漂生活。

张之洞到湖北后继续编练新军，加强军事建设。 湖北新军的营制仿德国军制，张之洞任黎元洪为护军后营帮带，五品顶戴尽先补用千总；后又以黎擅骑术，任为马队管带。

在湖北护军编练取法上，随着形势的变化，张之洞认为日本与中国同种、同教、同文、同俗，而且军事变革已经初见成效，所以中国想要学习欧美各国的军事制度，应该先以日本为阶梯。

遂从学习德国转而师法日本，光绪二十四年（一八九八年）、二十五年（一八九九年）、二十七年（一九零一年），在湖北当差的黎元洪受张之洞委派，先后三次到日本留学考察军事教育和观摩仙台大操。内容涉及各个方面，黎元洪逐步充当了清末军事现代化风潮的地方军制改革的先锋。

黎元洪每次考察回国后都写下日本军事考察报告送呈张之洞检阅，引起了张之洞的极大兴趣。学习考察后归来的黎元洪颇得张之洞赏识和倚重，被提拔为各营教练官，又兼训新兵，成为编练湖北新军的高级将官。

二十世纪初，清政.府又开始推行清末新政，湖北开各省风气之先，加紧施行。黎元洪奉命协助办理将绿营、防营结束后，又增招新兵，扩充武备学堂设备。在日本所学的西式教育的洗礼下，黎元洪的军事思想开始进入了湖北最高军事决策层的视野，并付诸实践。

张之洞先后多次采纳黎元洪的军事改革建议：一是规定水陆各营所辖兵勇凡遇有重大过犯者，均交执法官审讯，不得擅杀；

二是将武备学堂及防营将弃学堂合并改为武高等学堂，另设武普通中学堂。前者为张之洞军事学堂体系中的高等军事教育机构，后者为中等军事教育机构。武高等学堂程度与日本陆军士官学校相等，为武普通中学堂毕业学生升学之地 ，为湖北乃至全国培养了大量军事近代化所需的人才。

三是湖北省会开办警察，从各营选拔优秀士兵进行训练后充任。因在军事实践中表现突出，黎元洪的仕途平步青云。

从光绪二十二年（一八九六年）到宣统三年（一九一一年）的十五年间，黎元洪一直在湖北担任重要职务训练新军，他知兵爱兵，和新军战士结下了深厚的感情。与此同时，随着湖北革命力量的渗入，他所带领的陆军第二十一混成协集结了大量共进会、文学社等革命团体的力量。

他不是革命党，也不赞成革命。有说在武昌起义后，他为了自保还亲手杀过起义的士兵。

当瑞澂逃走，督署被占，革命军炮轰其司令部时，他吓得跑到黄土坡。换上便衣，躲在参谋刘文吉家中。

起义人员把他搜出，请他担任都督，他坚决不干。他虽然对清廷的腐朽统治不满，但还不想背叛朝廷。

起义人员用枪指着他的脑袋，逼他就范（这名起义人员，就是后来，赫赫有名的武昌首义元勋三武中的张振武），咨议局议长汤化龙等人又再三劝说。看到起义人员态度强硬，觉得僵持下去对自己不利，被逼无奈才勉强应承下来；其实是逼上梁山。

为了给自己留后路，他开始出工不出力，有什么事请示他，也总是好好好，是是是，从不拿主意，大家背后都叫他“泥菩萨”。

直到武昌、汉口、汉阳都落人革命党人之手，看到士兵浴血奋战，广大民众积极支持革命，他才真正站到了人民的一边。

通过起义的士兵英勇奋战，和立宪派人士和广大民众的共同努力，湖北的形势正朝着有利于革命党的方向发展。

京山、天门、黄州、宜昌相继光复。十九日攻克刘家庙，清军败退到了滠口。

武昌起义得到了各省的热烈响应，也鼓舞了各地革命党人。