1924年8月，黄逸峰考入上海中国公学大学部读书，1925年春又考入上海复旦大学商学院，并经常到左派创办的上海大学去听课，由于思想进步，他参加了中共青年团，2个月后成为中共正式党员，这是他革命生涯的一个重要里程碑。

1927年春天，对于上海人民来说极不平常，上海工人三次武装起义，革命斗争如同一座大熔炉，锤炼了黄逸峰。刚刚跨出校门走向社会的黄逸峰，经受了血与火的严峻考验，接受了革命风暴的战斗洗礼。

第三次武装起义胜利后，黄逸峰被选为上海市闸北区市民代表会议主席。就在上海人民庆祝胜利之时，蒋介石背叛革命，发动“四·一二”反革命政变，政变当天，黄逸峰从国民党26军2师司令部救出了被蒋介石密令扣留的周恩来，深得党中央的嘉许，时任中共总书记的陈独秀为此专门接见并赞扬了黄逸峰。

到了1927年的夏天，黄逸峰受到了国民党反动派的怀疑，21岁的黄逸峰化名黄国材，受中共江苏省委的委派任南京地委书记，他上任没一个月就因叛徒的出卖被捕入狱。

两个月后，黄逸峰被组织营救出狱，南京是呆不下去了，组织上让他回到老家东台创建中共东台县委，开辟党的地下工作。黄逸峰回到家乡后很快成立了中共东台县委。

1928年3月下旬，黄逸峰组织农民暴动不幸被捕，后来虽然出狱但却失去了组织关系，当时正是革命低潮时期，党组织被破坏严重，他找不到党组织，只好离开家乡远赴南洋，后又回国，几经周折后终于在1937年冬天任广西大学会计学教授。

1938年的夏天，黄逸峰利用广西大学暑假的机会，远赴武汉寻找党组织，他找到了八路军驻武汉办事处，与在汉口工作的周恩来、董必武、叶剑英等同志接上党组织关系。

组织上认为黄逸峰在广西难以发挥作用，让其设法回到老家江苏从事抗日工作。黄逸峰受领任务后回到广西大学，他精心撰写了一个去敌后开展游击作战的计划。