Als geboren Hagenees begon John de Jong in 1995 zijn professionele voetbalcarrière bij FC Den Haag, waar hij tot 1998 onder contract stond. Na een uitstapje naar FC Utrecht tekende De Jong in 2000 bij PSV. Hij speelde in Eindhoven tot 2008. In die periode werd hij driemaal landskampioen, won hij eenmaal de KNVB Beker en drie keer de Johan Cruijff Schaal.
Na zijn actieve carrière trad De Jong bij PSV aan als scout en klom op tot hoofd scouting. Medio 2018 volgde hij Marcel Brands op als technisch directeur in Eindhoven. John de Jong is momenteel werkzaam bij SEG, waar hij zijn jarenlange voetbalervaring op en naast het veld inzet bij de begeleiding van spelers.