1982年4月日比格涅夫·布扎克（Zbigniew Bujak）、鲍格丹·里斯（Bogdan Lis）、弗拉迪斯沃夫·弗拉泽尼乌克（Władysław Frasyniuk）和Władysław Hardek组织暂时协调委员会（Tymczasowa Komisja Koordynacyjna），以作为地下的团结工会暂时的领导组织。在5月6日另一个地下的团结工会组织（地区协调委员会NSSZ“S”-Regionalna Komisja Koordynacyjna NSZZ S）由伯格坦·鲍鲁西维茨（Bogdan Borusewicz）、Aleksander Hall、Stanisław Jarosz、鲍格丹·里斯和Marian Świtek所创建。在6月战斗团结工会（Solidarność Walcząca）也建立了。
在整个1980年代中旬，团结工会一直是波兰唯一的地下组织，由天主教会和中央情报局所支援。所有行动都为波兰的秘密警察追捕，但他们仍然得以做出反击：在1982年5月1日的一系列抗议活动中聚集了好几千人（在格但斯克有几千人）。示威运动在5月3日再度展开，以庆祝已被非法化的五三宪法纪念日。更多罢工在10月11日至13日展开，并在隔年5月再次展开。
莱赫·瓦文萨于1982年11月14日被释放，但在12月9日波兰秘密警察再次展开大规模的反团结工会行为，逮捕超过10,000名团结工会的激进份子。在12月27日所有团结工会的财产都被政府转移至由政府所创建的工会—全波兰协议工会（Ogólnopolskie Porozumienie Związków Zawodowych, OPZZ）。
戒严法在1983年7月解除，政府对许多遭监禁的工会成员颁布了一次特赦令。更多团结工会份子在1984年7月22日被释放。10月5日莱赫·瓦文萨获得了诺贝尔和平奖，但波兰政府拒绝给他护照使他无法出国受奖；只能由他的妻子代为领奖。后来证实当时波兰秘密警察准备许多伪造的档案，以作为瓦文萨不道德和进行非法行动的证据，准备交给诺贝尔委员会以试图取消瓦文萨的候选人身分。
1984年10月19日波兰秘密警察的干员谋杀了一名相当知名的团结工会支持者，Jerzy Popiełuszko神父，在谋杀的真相暴露后，数千名团结工会支持者参与了1984年11月3日他的葬礼。
地下组织“S”的几个成员Frasyniuk、鲍格丹·里斯和亚当·米奇尼克在1985年2月13日被逮捕，在审判中他们希望与辩护律师商议的要求都被法官拒绝，并被宣判监禁好几年。
1985年3月11日苏联新领导人戈尔巴乔夫上台，他代表了苏联国内新的一批希望改革的世代。包含苏联在内的东欧社会主义国家经济情况越加恶化，迫使戈尔巴乔夫展开全面改革，不只是在经济上，也是在政治和社会上。他的政策很快造成苏联卫星国的政治转变，例如波兰人民共和国，1986年9月11日，225名波兰的政治犯被释放。9月30日莱赫·瓦文萨创建了第一个公开的也是合法的团结工会组织（自从戒严令颁布以来）—NSZZ团结工会暂时会议（Tymczasowa Rada NSZZ Solidarność），与他一起的还有伯格坦·鲍鲁西维茨、日比格涅夫·布扎克、弗拉迪斯沃夫·弗拉泽尼乌克、Tadeusz Jedynak[12]、鲍格丹·里斯、v| Janusz Pałubicki和Józef Pinior，遍布波兰的许多团结工会分会也陆续公开。1987年10月25日成立了NSZZ团结工会国家执行委员会（Krajowa Komisja Wykonawcza NSZZ Solidarność）。
不过团结工会的成员和行动份子虽然比起前几年迫害较为轻微，但仍时常遭到迫害和差别待遇，而且工联内部分裂为两个派系，一派为以瓦文萨为首希望与政府进行谈判，另一派较为激进的派系则计划进行反共产主义的暴力革命。
