1937年8月，国民政府委员会命令青海调派1个骑兵师参加抗战。青海省政府主席马步芳即调配人马，组成抗日骑兵师。骑兵1师（后番号改为骑兵第八师）以原青海海南警备司令部所属第1旅为基础，合并驻防河西走廊的马步青部的部分官兵，并征调大通、互助、湟源三县的民团，以回、汉，东乡、撒拉、保安、藏等族人员组成，共9000多人。数月后骑8师兵锋东渐。骑1师抵陕后，即归第8战区西安行营指挥，各旅分驻兴平、扶风、醴泉、永寿和咸阳等县待命。次年二月，骑8师分驻西安以东、河南陕州以西的陇海铁路沿线，担负防守铁路、保卫公路安全的任务，同时又不时派出小分队，北渡黄河到晋南芮城一带以轻骑袭击运城日军，确保潼关安全。1938年4月间，骑8师奉命进剿西荆公路龙驹寨一带由日本浪人操纵指挥、汉*参加的反动武装。当时，这股武装千余人盘踞华山南麓，不时出没于西荆公路，肆意拦截车辆，抢夺物资，致使西荆公路无法畅通，严重影响华中战备物资的运输与供应。骑8师歼灭了这股武装，受到西安行营的传令嘉奖。不久，骑8师奉命调赴许昌，继而进驻黄泛区的扶沟、鄢陵、西华等县，担负这一线的河防任务，受第一战区孙桐檀集团军的指挥。

1939年春，骑8师第3旅马禄（回）部自郑州调赴陕西耀县，与从驻防甘肃武威的骑五军中调来的两个旅，组成暂编骑兵第二师，马禄任师长，驻防北同官（今铜川）等地。骑8师所驻河防，地处平汉线中段，为华东、华中战略要地。日军不惜调集各种兵力，多次出击骑8师，8师各旅则先后轮流渡过黄河，以轻骑游击形式不时袭击淮阳一带日军，并不断给敌以打击。

同年八九月间，骑8师乘淮阳日军空虚之机，二旅旅长马秉忠率部渡河进驻宝塔、孔庄一带，进而围攻淮阳城，攻占淮阳城西关。城内日军固守待援，对峙激战中，日军从开封调来100辆卡车的援兵，与淮阳城日军，配合步、炮、坦克各兵种，向骑8师阵地疯狂进攻。激战中，双方展开冲锋，形成了白刃战，直杀得天昏地暗。血战的腥味和死马的尸臭，像雨水一般飘落下来。二旅官兵奋勇迎敌，旅长马秉忠在战斗中中弹身亡。四团团长马成翰（回）接替指挥继续浴血奋战。此役最后以日军溃退而告终。不久，骑8师又在一次突袭围歼敌军的战斗中，全歼敌骑兵500余人，缴获战马数十匹。骑兵师英勇顽强善战，使日军恼羞成怒。时间不长，日军抽调重兵，配备重炮、坦克，向骑8师宝塔一线强攻。骑8师立即组织反攻，官兵战马驰骋，迂回冲杀，以血肉之躯与敌拼搏。终因敌我力量悬殊，骑8师主力迅速撤退，留下200余名官兵阻击。在主力安全撤退后，留下阻击的官兵背水作战，直至弹尽粮绝，便纷纷折断马刀，或用断刀自刎，或投水自溺，全体壮烈殉国。

经过多次与日军作战，骑8师损失较大，1940年5月，奉命调赴豫西叶县、舞阳一带，7月又调至豫皖边界的临泉、沈丘两县。为了便于指挥，部队经整训后取消了旧的旅营建制，改为师、团、大连编制（也有资料说该师此时才将番号改为骑兵第八师，马彪仍任师长）属第一战区战斗序列。同年8月，骑八师奉命驻守在涡河以南、淮河以北的三角地带，以牵制津浦铁路蚌埠沿线的日军。部队经整训后，补充了豫皖等省的子弟，不时出其不意地袭击并破坏敌占区铁路、公路、桥梁等，断敌交通要道，阻滞其物资运输。9月，骑八师工兵连和一个步兵大连，进驻涡河北岸的重镇————龙岗镇，并构筑了两道防御工事，用机枪扫射尾随坦克冲锋的敌步兵，并派出两个骑兵大连，疾速渡涡河迂回突袭来犯之敌。此役，日军伤亡惨重。经过这次战斗，骑八师的声威传遍附近敌占区，使敌军不敢再轻举妄动。