1927年初,受命去浦东协助筹划和指挥上海工人第三次武装起义。是年秋,山东省党团组织遭到敌人严重破坏,顾作霖调任中共山东省委委员、共青团山东省委书记。在济南、青岛和胶济铁路沿线的工矿、农村发动群众,开展斗争,并重建团的组织。不久被选为中共山东省委常委、共青团第五届中央委员。 1929年4月,奉调回沪,任共青团江苏省委书记。 1930年8月,调至武汉,任中共长江局委员,分管共青团工作。不久又调回上海,任共青团中央组织部长。 1931年1月中共六届四中全会后,根据中央决定由任弼时、王稼祥、顾作霖组织中央代表团,前往中央苏区。顾作霖与任弼时等经香港、汕头辗转到达江西宁都,任中共苏维埃区域中央局委员、宣传部长、共青团苏维埃区域中央局书记。 1933年4月,顾作霖调任中共闽赣省委书记。到任不久,蒋介石发动第五次反革命“围剿”。顾作霖发动群众支援闽赣省军区司令员萧劲光率领的少量红军,抵御敌人,但终因寡不敌众而撤离黎川,中共闽赣省委迁至建宁。 1934年1月,顾作霖在中共中央六届五中全会上当选为中央委员、中央政治局委员。并在第二次全国苏维埃代表大会上当选为苏维埃中央执行委员会委员。中央鉴于顾作霖身患肺结核病,身体十分虚弱,决定将他留在瑞金,任中国工农红军总政治部代理主任兼第一方面军野战政治部主任。广昌会战时,受命去前线协助朱德总司令工作。由于夜以继日穗姿扒地操劳,咯血不止,经抢救无效,于是年5月28日猜昌逝世,年仅26岁。中共中央、共青团中央和册败红军总政治部为他举行了隆重的追悼仪式,朱德、周恩来、博古、林伯渠等均致词悼念,称顾作霖为“鞠躬尽瘁、死而后已的中国青年运动的卓越领导人,中国共产党的优秀活动家”。