1928年4月，台湾共产党“一大”，在上海租界一家照相馆的二楼召开。在只有九人参加的此次会议上，推选林木顺、林日高、庄春火、洪朝宗、蔡孝干(在这里“干”同“乾”，故此名有时也被写成“蘩孝乾”)等五人为常任中央委员，翁泽生、谢阿女(即谢雪红)为候补委员。其组党纲领有三大主张：台湾民主、台湾革命和台湾独立。
“一大”决定，由林木顺具体负责书记处和组织工作。洪朝宗负责农民运动，庄春火负责青年工作，蔡孝干负责宣传鼓动工作，林日高等人负责台湾的党务工作，谢雪红等人担任东京特别支部和联络员工作，翁泽生任驻上海办事处和驻中共联络员。按照共产国际当时的规定，只有成员超过100人的共产主义团体才能成为独立的政党。由于“台共”创建初期党员人数不足，此时只能作为“日本共产党的一个民族支部”开展活动。对此，翁泽生、蔡孝干持反对意见，希望“台共”能由中国共产党进行直接领导。但在共产国际的强力压制下，只好勉强表示服从。
“台共”成立后，一方面借台湾文化协会，与知识界发生联系；一方面借台湾农民组合，对农村进行渗透。
然而，比起当年“盛名之下，其实难副”的国民党来，日本法西斯政府的军事机器强大得多，社会统治也严密得多。1929年，台湾中南部农村在“台湾农民组合”的发动下，发起小规模暴动，日本警方乃有第一次“台共大检肃”案，计逮捕“台共”59人，38人被起诉，有12人被判刑。1931年，日本警方又进行第二次“台共大检肃”，计捕获107人，均以违反治安罪，判处重刑。经过两次检肃后，“台共”重要分子，或则坐牢(如谢雪红)，或则逃返大陆(如蔡孝干)，或则潜伏，已无力展开活动。“九一八事变”后，日本警方对台湾更作全面性的严厉控制，“台共”遂一蹶不振，终作鸟兽散。
日本投降后，中共中央派出生在彰化县花坛乡的台籍干部蔡孝干为台湾省工作委员会书记。蔡孝干(1908—1982)，台湾省彰化县花坛乡人，曾用名蔡干、蔡前、杨明山。1922年，毕业于日办彰化公学，早年参加日据时期的左倾团体——台湾文化协会，后前往大陆，人中国共产党创办的上海大学社会科学系就读。其间，受瞿秋白、任弼时等人的思想影响，参加了进步青年组织——上海台湾青年会，组建新的旅沪台湾同乡会。1926年7月，返台宣传革命，组织台湾文化协会左翼，并任机关报顾问和撰稿人。又参与台湾共产党的成立，被推举为中央委员、常任委员兼宣传鼓动部长。1931年，经厦门到漳州，在石码中学、龙溪女中任教。1932年4月，林彪率红东路军进占漳州，蔡孝干经地下党李文堂引荐去江西，到达中央苏区“首都”——瑞金，由红一军团政治部主任罗荣桓安排进入红军政治部，使用化名“蔡干”开展工作；6月中旬，在汀州曾受到中共苏区中央局书记周恩来召见，并与老师任弼时重逢。他正式加入中国共产党，并参与“中华苏维埃共和国”的创建，任中华苏维埃共和国中央执行委员会执行委员。据说，毛泽东那时很看重他，因为蔡通晓日文，曾翻译多篇日文版马列主义书刊给毛阅读。此后，随红军进行二万五千里长征，抵延安，是唯一参与长征的台湾人。(另有一说，参加长征的台湾人，还有一位张志忠)
蔡孝千的回忆录里，记述了他随叶剑英指挥的中央纵队长征的情况，他目睹了红军惨烈的渡湘江战役：“伤员一抬一抬地被送到后面去……红五师已经顽抗了整整两天，中央纵队还在渡江。到这个时候为止，红五师已经有一个师参谋长、两个团长、一个团政委相继阵亡了，另有两个团长和一个团政委受伤了，连、营级干部的伤亡更多……”长征途中，他与中共老一代革命家培养出深厚感情，为其日后被提名为台湾地下党最高领导埋下伏笔。
抗战爆发后，蔡孝干到八路军总部工作，1938年上半年至次年，任八路军总部野战政治部部长兼敌工部部长，负责管理日俘和对敌宣传；1945年4月至6月，列席中国共产党第七次全国代表大会。
1945年8月，抗战胜利，台湾光复。中共中央于延安成立“台湾省工作委员会”，指定蔡孝干为负责人。1945年9月，蔡孝干由延安出发，间道潜行三个月，年底至苏北解放区的江苏淮安，领受华东局书记张鼎丞、组织部长曾山等人指示，并洽商来台干部，进行各项学习。1946年4月，原籍台湾的张志忠率领首批干部由上海搭船，秘密进人基隆、台北开始活动。蔡孝干则迟至7月进入台湾；8月，蔡孝干邀请前“日本共产党台湾民族支部”部分领导成员谢雪红、陈福星、简吉、廖瑞发、张明显等人，在台北市永乐町迪化街的林梁材家中开会，宣布中共中央指示，正式成立中共华东局“台湾省工作委员会”，简称“省工委”。由此，可称新“台共”。
这些台籍干部，长年在大陆参与中共革命，和家乡早有隔阂，对于台湾在日本殖民近代化下的社会状况多有疏离。“省工委”初期，还只能联系旧“台共”一般成员，因旧“台共”同时牵扯于共产国际、日共和中共，其“路线斗争”复杂，对于旧“台共”中央委员以上成员，需经中共中央审核后方能恢复组织关系。这便使得新“台共”多有掣肘，其活动在原宗族亲属中拓展关系外，重点在吸收大学里具有高涨的反日情绪却无中国革命经验的知识精英。在一般社会群众中，党的力量仍然薄弱，当时新“台共”党员仅五十人左右，最多不超过一百人。1947年，席卷全岛的“二二八事件”中，“省工委”几乎没有作为，既丧失判断能力，又缺乏应变能力。只有个别成员如谢雪红、杨克煌、张志忠等人，积极参与其中，在台中发动了武装起义，但随着国军整编2l师等部队登台后的高压态势。起义随即昙花一现，谢、杨两人便由高雄匆匆去了厦门……P3-5
