1935年4月，根据满洲省委紧急通知精神，赵尚志当选为北满临时省委执行委员会主席。1936年1月赵尚志参加在汤原召开的东北民众反日联军军政扩大会议，贯彻“八一宣言”精神。北满各抗日武装三军、四军、汤原反日游击队（六军）、民众军（八军前身）、自卫军（九军前身）、“双龙”队（十军前身）、明山队（十一军前身）领导人参加会议，成立东北民众反日联军总司令部，赵尚志被推举为总司令，同时成立东北民众反日联军临时政府。赵尚志在统一指挥军事行动，统筹安排给养，培养和调配干部等方面，起了重要作用。

    1939年后，由于日伪军连续派重兵“讨伐”，抗日战争进入艰苦时期，敌人曾悬赏一万元，通缉赵尚志。叫嚣“一钱骨头一钱金，一两肉一两银。”敌人还多次派遣特务奸细混入抗日军内部，企图暗杀他，均未得逞。

    赵尚志一贯坚持党的正确路线，在党内针锋相对的和王明、康生等人“左”倾路线做斗争，因而曾两次被错误的开除出党，撤销党内军内职务，但他丝毫没有消沉，依然对党赤胆忠心，继续坚持抗日武装斗争。

    1941年秋天，赵尚志率领一部分抗联战士经黑龙江回到鹤立县(今鹤岗市)境内，准备在十分艰苦的环境中继续开展对敌斗争。在接连两次遭到省委的开除和撤职打击之后，赵尚志丝毫没有动摇抗击日本侵略者的信心。1942年4月12日凌晨，赵尚志被化妆的特务刘德山诱骗，率抗联小分队袭击鹤立县梧桐河(今属汤原县)伪警察分所，途中刘德山突然向赵尚志开枪。赵尚志虽然腹部受伤倒地，仍立即回击将刘德山击毙。他伤势十分严重，敌人决定对他进行突击审讯，在赵尚志生命的最后时刻，依然与敌人进行顽强斗争。他对审讯他的伪警察说：“你们不也是中国人吗！现在你们出卖了祖国，……还有什么可问的呢。”说完了他狠狠地瞪着审讯他的敌人，闭口不语。因伤势过重，被俘时后壮烈牺牲，时年34岁。赵尚志牺牲后，日本关东军大肆鼓噪，曾将他的头颅由黑龙江空运至伪满首都新京(长春)，和在南满牺牲的另一抗日英雄杨靖宇的首级一起陈列。后来历经六十余载，在纪念抗日战争胜利六十周年之际的2005年，东北抗日烈士赵尚志将军的头颅在长春护国般若寺里找到了。

    全国解放后，黑龙江省珠河县第一届工农代表大会通过决议，把珠河县改为尚志县。1982年6月8日，中共黑龙江省委决定撤销1940年1月中共北满省委关于开除赵尚志党籍的决定，恢复赵尚志党籍，推倒强加给赵尚志同志的一切不实之词，恢复名誉。