Winding nacque ad Aarhus, in Danimarca, ma la sua famiglia si trasferì negli Stati Uniti quando aveva 12 anni. Ottenne i primi successi suonando nell'orchestra di Stan Kenton e facendo parte del celebre nonetto di Miles Davis. In seguito formò un quintetto insieme a J.J. Johnson, che annoverava tra i suoi componenti anche Charles Mingus. Winding sperimentò strumenti e arrangiamenti all'interno di numerosi ensemble di ottoni; la sua composizione più nota è "More", brano scritto per il film "Mondo Cane". Caratterizzata da una marcata cadenza country e western, questa registrazione fu anche la prima a impiegare l'Ondioline, uno dei primi sintetizzatori analogici. Winding è scomparso a causa di una malattia all'età di 60 anni.
