1939年日寇扫荡华北，马本斋领导的回民支队在河间、青县、沧县地区转战，并在各大清真寺帮助“回民抗战建国会”组织伊斯兰小队，开展敌后游击战争。在日寇对冀中根据地的扫荡中，与八路军主力纵队和贺龙、关向应率领的120师协同作战，消灭土匪武装第六路。回民支队威震冀中平原，有“攻无不克、无坚不摧、打不垮、拖不烂的铁军”之誉。

    1940年，马本斋指挥部队使用围点打援战法取得衡水康庄战争的胜利，又组织精干的小分队巧取深县榆科伪军据点，巩固了队伍。1941年，为了招降马本斋，消灭回民支队，日军血洗东辛庄后抓走了马本斋的母亲。日军对马母威逼利诱，让她写劝降信说服儿子“归顺皇军”，享受“荣华富贵”，但马母坚贞不屈，为了不让敌人利用自己牵制儿子，马母痛骂汉奸，并以绝食的方式进行抗争，最后光荣牺牲。得知母亲牺牲的消息，马本斋强忍悲痛写下“伟大母亲虽死犹生，儿定继承母志，与日本人血战到底！”的壮语。

    1942年6月，马本斋率回民支队转移到冀鲁豫边区。后任八路军冀鲁豫第三军分区兼回民支队司令员，采用游击战术，率部在冀鲁豫平原上进行了大小数百次的战斗，取得了“反扫荡”战斗的多次胜利。他勇谋兼备，注意贯彻抗日民族统一战线和民族平等政策，在冀鲁豫地区为粉碎日军扫荡、建立巩固的抗日政权作出了重要贡献。

    从1937年至1944年，他率回民支队奋勇杀敌，经历大小战斗870余次，歼灭日伪军3.6万余人，屡建战功。然而在长期的战争生活中，马本斋营养不良，积劳成疾，突发急性肺炎，1944年2月7日在山东省莘县不幸病逝于冀鲁豫军区后方医院（今河南濮阳县小屯村），终年43岁。1944年1月底，回民支队奉命开赴延安。出发前，他抱病为部队作了最后一次动员，叮嘱指战员“要跟着党，跟着毛主席，抗战到底！”

    党中央在延安为他举行了追悼会，总参谋长叶剑英高度赞扬了他光辉的斗争经历和卓越的军事指挥才能。毛泽东主席敬献挽联“马本斋同志不死”，周恩来副主席题词“民族英雄，吾党战士”，朱德总司令挽联“壮志难移，汉回各族模范；大节不死，母子两代英雄。”同年，献县抗日民主政府将东辛庄改为本斋村。新中国成立后，党中央将马本斋的故乡命名为“本斋回族自治县”。1954年将他的遗体迁至石家庄市华北军区烈士陵园。