第二次世界大战之后，约翰·肯尼迪进入美国政坛(这其中很大一部分原因是他的哥哥小约瑟夫·肯尼迪在英国战场上执行任务时不幸牺牲，而他哥哥是全家寄予厚望，将来要培养成美国总统的人选。这样一来，家人都将维护家族名声的重任寄托在了肯尼迪的身上)。1946年，他参加了众议院选举。在那一年的选举当中，民主党的形势不容乐观，自1930年以来首次失去了国会参众两院的控制权。但肯尼迪的表现却依然不错，由于马萨诸塞州的国会众议员詹姆士·柯利(James Michael Curley)将出任波士顿市长，在国会中留出了一个空缺，经过努力，肯尼迪在竞选中获得了胜利。

　　1947~1952年，众议员

　　1947年1月，约翰·肯尼迪到华盛顿特区上任。当时恰逢民主党经济状况发生重大变化、全国上下开始担心共产主义威胁的时候，而且哈里·杜鲁门总统当时也受到了猛烈的抨击。

　　在众议院里，他反对塔夫托·哈特利劳工法(即哈特利提案)，发起国家退伍军人住房会议。1948年11月他再次当选众议员。此间，他提出过低房租公共住房和援助公私立学校的议案，建议削减对非洲和近东地区的浪费性援助。

　　1952~1960年，参议员

　　1952年他以“肯尼迪将为马萨诸塞做的更多”(Kennedy Will Do More For Masschusetts)为口号参加了参议院席位的竞选，并战胜了势头强劲的对手亨利·洛奇(Henry Lodge)赢得了一个马萨诸塞州参议员席位，在总计2 353 231票中领先洛奇70 737票，两人的得票率为51.5%：48.5%。

　　自从1950年之后，约瑟夫·雷芒德·麦卡锡与肯尼迪家族的交往日渐频繁，麦卡锡在成为参议院的焦点人物之前就与肯尼迪的父亲老约瑟夫·帕特里克·肯尼迪结下了深厚的友谊。老约瑟夫·帕特里克·肯尼迪曾花费数千美元的资金支持麦卡锡，并在后来成为了他主要的支持者之一。20世纪40年代之后，老约瑟夫·帕特里克·肯尼迪常常在自己位于海厄尼斯港(Hyannis Port)的别墅里与麦卡锡共渡周末。而且麦卡锡曾经追求过肯尼迪的四妹帕特·肯尼迪(Patricia Kennedy Lawford)。在1952年的参议院竞选当中，老约瑟夫·帕特里克·肯尼迪与麦卡锡达成了一笔交易：麦卡锡在马萨诸塞州的投票中支持民主党候选人，而约翰·肯尼迪则不会在国会关于谴责麦卡锡主义的表决时投票支持该决议。1953年，肯尼迪的父亲又要求麦卡锡聘请约翰·肯尼迪的弟弟罗伯特·弗朗西斯·肯尼迪(Robert Francis Kennedy)为自己的高级职员。1954年9月，在经过了9天的听证之后，国会的一个特别委员会建议“谴责”麦卡锡破坏参议院规则。当年12月2日，参议院以67:22的表决结果通过了这一谴责。而在民主党中，惟一一个没有投票反对麦卡锡的(更确切地说，没有就此问题投票的)是约翰·肯尼迪。1960年，他在一次为自己的辩解中说：“我从来没有说过我是个十全十美的人。我见过大多数人犯过的错误。麦卡锡的事情?我当时处于一种非常尴尬的处境。我的弟弟在为麦卡锡工作。”但肯尼迪后来十分后悔自己的决定，因为他没有同民主党伙伴和参议院的大多数人一起谴责麦卡锡的这一不光彩行为成了此后一个长期的政治遗留问题。事实上，在1954年7月，在陆军听证会结束的时候，即参议院第一次考虑公开谴责麦卡锡的时候，肯尼迪准备通票反对他。