1923年杨殷回国后，在广州从事工人运动，开展宣传活动，团结进步工人，发展工人党员，组织统一的产业工会――粤汉铁路总工会、广九铁路总工会、广三铁路总工会，任全国铁路总工会广东办事处顾问。

    1927年4月15日广东军阀公开叛变革命，广州陷入白色恐怖中。杨殷躲过敌人的搜捕，积极安排其他同志的转移，然后自己才撤到香港。“八七”会议后，与张太雷等组织临时南方局，他分工负责军事委员会和肃反委员会工作，并到海南岛参加琼崖特委扩大会议，传达“八七”会议精神，决定海南举行秋收起义。

    1927年11月23日，杨殷担任领导武装起义的行动委员会委员，负责参谋团工作，协同叶挺指挥军事，并同周文雍一起组织和领导工人赤卫队。12月11日，广州起义爆发。他与张太雷、叶挺在公安局内指挥战斗。当日，广州苏维埃政府宣告成立，任人民肃反委员。12日中午，张太雷牺牲后，他继任广州苏维埃政府代理主席。

    1928年初，杨殷代表省委参加海丰县第二次党代表大会。之后负责省内以及同中央联系的情报交通工作。6月出席在苏联举行的中共“六大”，当选为中央委员、政治局候补委员，任中央军事部长。同年秋回国，在上海中共中央工作，先后到山东、安徽、江苏等地领导军事工作。

    1929年8月24日，杨殷与彭湃等人在上海新闸路开会时，因叛徒告密而被捕。在狱中，化名吕云峰，继续同敌人斗争，痛斥反革命的罪行，宣传我党的主张。同时不放弃为党工作的机会，不断向狱中的群众和士兵宣传，常常高唱《国际歌》，鼓舞狱中同志坚定地斗争。在写给周恩来的信中，向党中央汇报了自己在狱中的情况，表示了牺牲的决心。并建议中央设法营救颜昌颐、邢士贞、张际春三同志出狱。

    8月30日，蒋介石亲自下令秘密杀害彭、杨等四同志。临刑前，他一如往日镇静乐观，笑着说：“朝闻道，夕死可矣！”他们4人慷慨地向难友们说了最后的赠言，唱着《国际歌》，呼着口号，英勇就义，表现了共产党人视死如归的浩然正气。

    9月5日中共中央为国民党杀害彭、杨等4烈士发表《告人民书》。

    为继承烈士遗志，1930年以后，各革命根据地成立的红军学校，多命名为彭（湃）杨（殷）军政学校。