日本在甲午战争取得对台的统治权后，一开始并未做好殖民准备，故请来英、法两国的顾问前来提出建议。但在遭逢武力反抗的情况下，原始构想被打乱。1896年3月底，日本政府遂依据台湾总督府的要求，由帝国议会通过《关于应在台湾施行的法令之法律》，俗称《六三法》。
六三法的实施，使得台湾虽然名义上是日本领地，但实际上却成为日本的殖民地。日后虽经“三一法”和“法三号”的修正，使台湾的立法体系逐渐被编入日本的体系中，但依旧不能享有日本内地（日文中对日本本土的称呼）的民主成果。而由于该法每到有效期限将至时，就被送进帝国议会要求顺延，每每引发争论。最后日本政界虽将法三号定为无期限限制，使争议告一段落，但对台湾的知识分子而言，“六三问题”与切身权利相关，需寻求解决方案。 自1905年到1925年间，日本受到海外思想的影响，加上1918年原敬政友会内阁的成立，在思想政策上自由化，于是产生了政治乃至社会、精神层面的民主运动，是为“大正民主思潮”。
而同时，美国总统威尔逊在1918年1月发表“十四点原则”，其中民族自决的思想风行，日本当局遂重新检讨治台政策，改派文官总督，采行同化主义，改善教育政策，使台湾人民智能及视野皆有所提升。当时，台湾青年因为本地缺乏高等教育，赴日留学蔚然成风，日本普选运动风潮正盛、朝鲜爆发三一运动争取独立、中国也有五四运动的兴起，在东京的台湾留学生身处其中，深深向往民主主义与民族自决思想的影响，也激起了民族意识的觉醒。 台湾知识分子视《六三法》为总督府独裁之依据，在争取民族自决运动的过程中，遂将撤废《六三法》视为主要任务。从1914年开始，林献堂、蔡培火、林呈禄、蔡式谷和郑松筠等东京的台湾留学生，一方面透过台湾同化会的参与，寻求日方同情者的支持，一方面更组织启发会（后改为新民会）从事废除运动。并在其机关刊物《台湾青年》、《台湾》中发表文章争取台湾人的政治、法律权利。1920年11月《六三法》期满前，时任台湾总督的田健治郎说出“本岛现况尚未至能达废弃本法的程度。”后，当月28日，新民会200余名会员即在曲町区富士见町展开示威。
然而《六三法》的撤废运动有其局限，参与者往往主要诉求集中对经济、政治和社经地位的平等，意味着若获得公平对待，可能不会从事民族运动。明治大学毕业的林呈禄就指出，此一运动否定了台湾的特殊性，变相承认了“内地延长主义”。1920年12月15日，他在《台湾青年》第5号上发表的文章已有以“设置台湾议会”取代“撤废《六三法》”的思考。
林呈禄的主张影响了日本留学生的想法，但他的“完全自治”主张被蔡培火认为不太可能，于是提出“设置民选议会”的构想。1920年（大正九年）年底，在林献堂的裁决下，《六三法》的撤废运动告终，转向以台湾议会请愿为共同目标。
