Az 1954-es születésű luxemburgi politikust 1984-ben választották meg a Képviselőház tagjává a Keresztényszociális Néppárt tagjaként, és rögtön Jacques Santer kormányának munkaügyi minisztere lett (ezt a pozíciót egészen 1999-ig betöltötte).
Röviddel az 1989-es választás előtt Juncker súlyosan megsérült egy közúti balesetben, és két hetet kómában töltött. Későbbi, többször tapasztalt furcsa viselkedését sokan ezzel a balesettel hozzák összefüggésbe. Mindenesetre felépült, majd 1989-ben (a munkaügy mellett) a pénzügyminiszteri posztot is megkapta (elődje e poszton maga Santer miniszterelnök volt; tehát nem egyedülálló Juncker későbbi kormányzati „álláshalmozása”), amit nem kevesebb, mint húsz éven át töltött be. Amikor aztán Santer miniszterelnök 1995-ben az Európai Bizottság élére távozott, Juncker átvette tőle a kormányfői tisztséget is (ekkortól néhány éven át egyszerre volt miniszterelnök, pénzügyminiszter és munkaügyi miniszter), amit tizennyolc éven át viselt: 1999-ben, 2004-ben és 2009-ben is újraválasztották.
Miniszterelnökként a minél szorosabb európai integráció radikális képviselője volt. Kiemelkedő szerepe volt mind az Európai Uniót létrehozó maastrichti szerződés tető alá hozásában, mind az euróövezet kialakításában. Ám otthon évtizedek után végül egy botrányba bukott bele: 2013 júliusában felajánlotta lemondását, miután kiderült, hogy az általa felügyelt titkosszolgálat törvénytelen módon hajtott végre lehallgatásokat (2000 és 2013 között öt telefonbeszélgetést rögzítettek illegálisan, ebből egy lehallgatás Juncker ellen irányult; a botrányról lentebb részletesen olvashatnak).