不过他在参议院里冒着风险去得罪的对象，在传统的民主党联盟的成员中还不止是黑人和南方人。有组织的劳工长期以来一直是肯尼迪强有力的同盟者。肯尼迪在参众两院任职期间，始终都在两院的劳工委员会内工作。劳工领袖们赞赏他在众议院反对塔夫脱——哈特莱法案，在参议院带头争取提高最低工资、改善社会保险，其中包括医疗照顾、支援经济萧条地区，以及确定全国失业补助金的标准。马萨诸塞州的卡车司机工会一贯是拥护肯尼迪的，但在1957—1959年间，肯尼迪同他的劳工界朋友之间的关系却变得十分紧张起来。
当时由约翰·麦克莱伦为主席，罗伯特·肯尼迪为总顾问的常设调查小组委员会揭发了工会贪污的材料。为进一步深入调查，参议院在1957年成立了一个调查工会舞弊行为的专门调查委员会，由麦克莱伦小组委员会和参议院劳工委员会抽调人员组成。约翰·肯尼迪应邀参加。
肯尼迪知道这意味着要拿他同有组织的劳工的良好关系冒险，当时至少有两个想担当国家重任的参议员亨利·杰克逊和斯图尔特·赛明顿都拒绝参加。当时还有暗示，说只要罗伯特·肯尼迪“做得漂亮”，全国卡车司机工会就支持约翰·肯尼迪当总统候选人。
但是不管这里面有什么政治陷阱，肯尼迪对这个调查委员会很感兴趣。作为参议院劳工委员会劳工立法小组委员会主席，肯尼迪知道他不可避免地会被卷入听证会上所提出的任何立法建议。很多已被挑选出来的、具有人所共知的反劳工观点的工会舞弊调查委员会委员们，很想在肯尼迪谢绝当委员的情况下，接替他的位置。这着重地说明了肯尼迪接受这个职务的艰巨性和必要性。
约翰·肯尼迪决定参加这个委员会，他主持委员会作出有关劳工改革的立法。在他的国会生涯中，他第一次以几年的时间，几乎排除一切杂务地专搞一项立法。据《基督教科学箴言报》说，他是“破釜沉舟”，不争取劳工支持他竞选总统了。劳工领袖们对他先是冷淡、猜疑，后来则是激烈地反对了。劳联—产联主席乔治在肯尼迪为他提出的改革法案召开的一次听证会上大声嚷道：“愿上帝把我们从我们朋友的手中拯救出来吧！”——对此，肯尼迪冷静地回答说：“米尼先生，我也要说这句话。”机械工人工会主席艾尔·海斯把肯尼迪比作阿根廷独裁者庇隆。其他人则试图在他们的全国代表大会上谴责他。但是这时参议院共和党领袖威廉·诺兰就一项福利及养老金法案提出并几乎要通过一批反劳工的修正案。米尼和工会的大多数高级领导人才逐渐勉强地认识到，通过某种立法是不可避免的了——而可供选择的对象是：要么通过肯尼迪的劳—资改革法案，以铲除他们既不能否认也不能宽恕的舞弊行为；要么就通过诺兰的劳—资关系法案，以限制他们工会谈判的权利。
在随后发生的斗争中，多数劳联—产联领袖既支持建设性的法案，也支持他们自己志愿的法规。这次斗争使约翰·肯尼迪极为深刻地看到了劳工领袖们的本质。像贝克、霍德以及他们的流氓朋友这样一伙人很快便从其他人中孤立出来。
企业界的人也怨恨肯尼迪兄弟，因为他们揭露了资方同舞弊分子的勾结。美国律师公会主席也怨恨肯尼迪，因为他发表声明，指责有组织的律师对于其会员同舞弊分子勾结，侵吞工会经费的事“显然漠不关心”，而肯尼迪对此深为关切。各种各样的民主党政客也对肯尼迪兄弟施加压力。当那个以伊利诺斯州民主党全国委员会委员和史蒂文森密友身份闻名的杰克·阿维代表一个当事人要求约翰·肯尼迪进行调解时，约翰·肯尼迪告诉他，只有总顾问罗伯特·肯尼迪能制止调查。等阿维和他的同事离开以后，约翰·肯尼迪对他的弟弟说，他认为这个请求令人作呕。
随着这些反对者的压力增大，约翰·肯尼迪的决心也增大了。在拉尔夫·邓根、哈佛大学劳工法专家阿奇博尔德·考克斯，以及由其他六位学者组成的一个小组的帮助下，他起草了一份劳工改革法案，掌握了劳工法的错综复杂的细节，并且第一次真正掌握了立法的程序。1958年，肯尼迪—艾夫斯法案在参议院以88票对一票获得通过，结果在众议院却被葬送了。1959年，经过在院内长期艰巨的斗争，肯尼迪—欧文法案以90票对一票获得通过。
这个法案于是同众议院所通过的兰德勒姆—格里芬法案一起提交会议进行协商。肯尼迪宁肯通过一项折衷方案而不愿什么法案也不通过，他终于能从众议院通过的法案中删去了15项限制工会正常活动的条款。虽然最后的文本总的来说更接近于参议院的法案，但约翰·肯尼迪却认为，这个法案不冠上他的姓名是更为策略的。
在整个这项长时期立法努力中，贯串了调查性的探索工作。当他签署麦克莱伦委员会报告时，一些全国性的和马萨诸塞州的工会领袖们被激怒了。他回答说，如果他不签字，他在参议院里关于这个问题的威信就丧失殆尽了。但是这使他在政治上既有损失，也有收获。电视观众们对肯尼迪兄弟越来越熟悉了，他们看到肯尼迪兄弟严厉地盘问那些不诚实的工会领袖，并教训那些滥用诚实会员基金的骗子。同麦卡锡的作风不一样，这个委员会给一切证人以提出事先准备好了的声明的权利；给予提出问题进行盘问的权利和获得证词文本的权利，反对一人作证，完全防止自证其罪。
1958年，约翰·肯尼迪再次竞选参议员。事实上，从1952年他35岁进入参议院以来，他从未容许任何其他问题阻止他在政治上的前程，也不容许轻易取胜的预测来干扰他1958年的行动。事实上，1958年的肯尼迪无疑具有更大的优势在比参议员职位更重要的位置上取胜，他在竞选副总统提名时，已被广大美国人认识其才华。他的青春形象刷新了美国人对政治的偏见。
但是，在1958年，约翰·肯尼迪对再次竞选仍然是非常谨慎而严密的。他以更为熟稔的手段运筹这次竞选活动。
肯尼迪在这个平静的年头里同他在马萨诸塞州每个角落用心培育起来的个人组织保持接触。关于约翰·肯尼迪“为马萨诸塞州多做一些工作”而谋求提出立法和行政行动的详细报告遍寄到本州的各个地方。约翰·肯尼迪也越来越多地利用周末时间到州内各地去发表演说。他的大部分演讲，特别是在小市镇上发表的，都是超党派的，而且口气相当温和。他还仔细培育马萨诸塞州各种报纸对他的好感，因为这些报纸大都是共和党的，而且在1952年几乎全部拥护洛奇。那些记者、编辑和报刊发行人到参议员的办公室去，总是大受欢迎的。报社经理凡是需要一个代言人，一篇社外人士撰写的社论，或是在某一个与政府有关问题上需要人帮忙时，总发现参议员是乐于效劳的。结果，同1952年形成鲜明对照的是，没有一份马萨诸塞州的报纸在1958年反对肯尼迪再次当选为参议员。
约翰·肯尼迪不但永远争取他的支持者，还经常争取他的反对者。他总是愿意忘掉分歧，宽恕诋毁他的人。并且认为在政治问题上不应提倡报复。他经常提醒共和党人，他同索顿斯托尔合作，他支持艾森豪威尔的外交政策措施以及他的独立投票纪录。他经常使工商界人士知道，他努力繁荣马萨诸塞州经济和制止工会的不法行为。他告诉主张削减预算的人们，他对参议院“第二胡佛委员会报告”起着领导作用，并且向他们散发他父亲的另一个老朋友赫伯特·胡佛的热情洋溢的感谢信的翻印本。意裔美国人为他同弗科洛的不和而激怒，码头工人因为他支持圣劳伦斯航道而怨恨他，卡车司机工会和其他工会会员被他的劳工改革工作搞得不安。而黑人又因为他投票赞成陪审团审判问题修正案而对他有所疑忌——所有这些人以及其他一些人都收到他寄去的材料，强调他为他们利益所做的工作，他对他们事业的友好态度以及他对他们的领导人的支持。此外，他保证做到对一切来信立即回复，对所有来访者都表示亲切的欢迎，并尽量亲自处理州里的问题。
肯尼迪竞选做法的许多方面是独一无二的。这些做法后来也应用到总统竞选的预选中去，然后又在全国范围内加以应用。
在1958年，马萨诸塞州的共和党人找不出一个愿意对抗肯尼迪的重要候选人。有些共和党战略家建议不反对肯尼迪，以便抑制民主党人出动对他投票的热潮。波士顿《先驱报》的一个专栏作家甚至建议两党都支持他。有人还说，共和党人不可能战胜他。他们不能借用一个更好的人，他们自己肯定没有一个像他这样的人……为什么不一致推举他呢？
约翰·肯尼迪比对手多得了八十七万三千余张选票，以创纪录的三与一之比赢得了连续第五次的政治胜利。
