1927年4月9日，厦门的国民党右派发动反革命政变，白色恐怖一时笼罩美丽的鹭岛。厦门总工会委员长罗扬才、副委员长杨世宁等人被秘密枪杀，不少共产党人和左派人士被捕，厦门港中山中学被强行封闭。叶飞（原名叶启亨）和哥哥叶启存在悲愤中转学到省立第十三中学（今厦门五中）。

尽管叶飞当时只有14岁（虚岁），但他从大革命的失败中认清了国民党的反动面目，更加坚定了走革命道路的信念。面对敌人的凶残，年轻的叶飞没有退缩，反而更加积极地参加反抗国民党的斗争。厦门的中共地下党团组织也一直关注着他。1928年，叶飞虚岁15岁，勉强够入团年龄，厦门团市委书记叶炎煌介绍他加入了共青团。不久，十三中建立起团支部，叶飞任支部书记，发展了叶启存和同学郭乃疆入团。这年冬天，叶飞与兄长叶启存满怀革命热情，走上了职业革命道路。

转入地下工作后，兄弟俩参加了团省委开办的积极分子训练班。训练班主要讲授秘密工作的纪律及具体的活动方法，也讲授一些马克思主义基本理论。1929年春，叶飞担任改组后的厦门团区委（实际上即团市委）书记。不久，在福建省第二次团代会上，叶飞当选为团省委委员、团省委宣传部长。这一时期，党、团和各项工会组织，经历了1927年白色恐怖的考验，已经从严重的破坏中开始恢复，并绽现生机。

1930年7月，叶飞在厦门被国民党当局逮捕。被捕的原因是“涉嫌”当年轰动一时的厦门劫狱事件。被捕后最初的三四个月，叶飞等人被关押在厦门警备司令部军法处。当局提审了几次，由于没有任何证据，加上事前叶飞等人作了周密的准备，一口咬定是来厦读书的，暂时借住朋友处，因此审讯没有任何进展。军法处见审不出什么名堂，就以危害国家的罪名，把他们移解到思明法院处置。面对法庭审讯，叶飞等人更装作是连普通话都不懂、不问政治的青年学生，并一再提出：“说我们危害民国，到底有什么证据？”法庭没有证据，毫无办法，案子一直拖到年底。法律规定不到18岁不能判刑，按律应当将他们无罪释放。但反动法庭不肯轻易放过他们，竟以“共产党嫌疑犯”的罪名，判了叶飞等人一年徒刑，把他们由拘留所送到厦门思明监狱中服刑。

狱中生活十分艰苦，牢房拥挤潮湿，石板地铺上稻草就是床，吃的是霉米烂菜。恶劣的生活条件使叶飞等人的身体一天天虚弱下去。特别是与叶飞同年的陈举，患上了肺痨病，饱受病痛的折磨。叶飞等人入狱，家中都不知情，他们在厦门更是举目无亲，无人探视。叶飞见这样下去后果不堪设想，便设法和家人取得联络。叶飞的父母得讯后，十分焦急，千方百计设法营救。由于叶飞出生在菲律宾，拥有菲律宾国籍，叶飞的父母费尽周折，终使菲律宾当局同意出面要求引渡。

凭着对党的无限忠诚和坚定的革命信念，叶飞终于熬过了狱中的艰难岁月。这是他参加革命后所经受的第一次严峻考验和磨炼。1931年底，叶飞刑满出狱，这时他的母亲已经到达香港准备来接儿子。叶飞克制住对母亲的思念之情，给母亲发了一封电报，说自己要到日本留学去了，请母亲放心回菲，又重新投身到革命斗争中。

叶飞出狱后，调任福州团中心市委书记。由于地下工作的纪律，叶飞从此和叶启存失去了联系。一直到解放后他才知道，哥哥启存后来担任南安县委宣传部长，参加了安（溪）、南（安）、永（春）游击区红色游击队，1935年被捕后在家乡壮烈牺牲。1932年，叶飞在福州由中共福州中心市委书记蔡协民作为转党介绍人，转为中国共产党正式党员。

1932年8月，为了加强对闽东地区武装斗争的指导，中共福州中心市委派遣叶飞以市委特派员身份，赴闽东巡视工作，并参加福安中心县委的领导工作，创建闽东苏区。由此，叶飞开始了长达近半个世纪的戎马生涯。