Johannes Okeghem nasceu em Flandres (Bélgica), em c.1430. Recebeu a sua primeira formação musical na escola de canto da catedral de antuérpia e é provável que tenha estudado com Dufay, em Cambrai (1449). Em c.1446-1448, foi chantre do duque Carlos de Bourbon, em Molins, e, em c.1452, entrou para o serviço dos reis da França (fica conhecido como "Johanes Hoquegan, primeiro capelão"). Até a sua morte, ficou ao serviço dos reis Carlos VII, Luís XI e Carlos VIII com o título, a partir de 1465, de "mestre de capela de canto do rei".

A partir de 1459, foi tesoureiro da abadia de Saint-Martin em Tours, cidade onde residiu durante uma parte de sua vida, graças às estadas do rei em Plessis-lez-Tours. Em 1470, percorreu a Espanha a expensas do rei. Quando morreu (c.1495), o poeta Gillaume Cretin dedicou mais de 400 versos ao seu panegírico.