近代以来，中国军队真正开始使用现代意义上的西洋枪炮始于湘军。1851年太平天国运动爆发，曾国藩建立湘军，并开始购买外国火炮。“据不完全统计，自成丰四年至六年(1854-1856)，先后购置的外国火炮有1800多门”，但这些火炮主要装备于湘军水师，步军中还没有形成独立的炮兵营，仍处于冷、热兵器并用的阶段。

淮军炮营仍属于装备了大炮的步兵

1862年，李鸿章的淮军抵达上海之后，李鸿章开始着手增添洋枪洋炮。至1863年，“鸿章的亲兵护卫营，即张遇春的春字营，已有炮队二百名参与战阵，这是淮军成立正式炮队，以为专门营伍之始，也就是中国炮兵制度的发初。”1873年，李鸿章开始建立专门使用火炮的独立炮队，使得清军在建立正规的炮队制度上迈出了新的一步。

由于1871年普法战争的胜利，普鲁士即后来的德国在欧洲声名大噪，其武器装备畅销各国。李鸿章审时度势，迅速要求淮军各营仿照德制建立炮队、购买德国先进火炮并雇佣德国教习进行操练。至1876年，李鸿章已陆续筹款购买德国克虏伯后膛炮114尊，新建了炮队19营。

虽然新建的淮军炮营同八旗、绿营以及湘军比较，在人数、火炮装备以及炮兵编制上已有很大进步。但它没有完整的营制和后勤体系，依然沿用湘军的步兵营制，也缺乏与诸兵种之间的协同作战，在实际战斗中，炮兵没有真正发挥应有的协同作用，因此淮军的炮营并不成熟，只能是一种过渡作用。

段祺瑞仿照德军组建了专职的炮兵

晚清炮兵制度真正形成于甲午战后，甲午之役的惨败宣告了洋务运动的失败，不光当时的有识之士，及时腐败的清政府也深刻的领悟到，军事变革的内容不再只是学习西方器物层面，而是应该连同西方军事体制一并学习，特别是诸兵种的军队编制与训练制度。在这种思想的指导下，袁世凯受命开始编练北洋军。当时有两支主要的新式军队，“温处道袁世凯练新军。

1895年底，袁世凯的北洋军正式建立，“专仿德国章程”，创立步、炮、马、工程4兵种7千人，建立军营分别训练。其中炮队1营计1千人，由段祺瑞任统带。1898年底袁世凯调任山东巡抚，段祺瑞率炮兵营也随其移驻山东。在当时的条件下，火炮乃火力之重，炮队更是全军的中坚力量，因此被拨付了最多的武备人才和最丰厚的薪饷。

段祺瑞也的确没有让袁世凯失望，其利用自己曾经在德国留学并在克虏伯兵工厂实习的优势，仿照德国军队的编制，帮助袁世凯建立起了完备的德国炮兵制度，将1千人的炮队分为左翼重炮队、右翼快炮队和接应马炮队，每队设1领官、3哨官、9哨长，每名哨长管理德制火炮2尊，确保每尊炮都得到专人精心保养，训练时也能够更加熟练。

精心训练、定期演习，练成近代第一支炮兵

段祺瑞坚持每日到操场督促训练，一年四季给炮队出课题，每月进行全军合演，并以队、哨为单位配合步兵训练聚拢、散开、进退及各种队列。1896年9月，北洋军组建1年后，袁世凯亲自考校各队训练成果，“炮队营步法、枪法、身法极精且优。”

此后，北洋军在段祺瑞的建议下开始经常性开展对抗性军事演习，步队、炮队、马队、工程队甚至辎重营全部上阵，开展诸兵种联合演练。演习中派员记录监督，确保全力以赴；演习后总结经验，不断改进，使得北洋军步炮协同等能力大幅提升。

辛亥革命初期，段祺瑞率领北洋军主力南下湖北，攻打起义军占据的武汉三镇，炮兵与步兵紧密配合，迅速拿下了汉口、汉阳，这支近代史上第一支炮兵部队显示了自己的应有战力。