Ilmārs Dzenis dzimis Daugavpilī, 1931. gada 5. decembrī skolotāju ģimenē, viņa tēvs bija muzikāli izglītots, spēlēja vijoli. Vēlāk ģimene pārcēlās uz Jelgavu, no kurienes 2. pasaules kara laikā Ilmārs ar māti devās bēgļu gaitās uz Vāciju. Latviešu apmetnē Eslingenā sākās Dzeņa mūziķa gaitas vietējo jauniešu ballītēs.

Izceļojis uz ASV, Dzenis 30 gadus pavadīja Čikāgā, pēc tam pārcēlās uz Floridu. Sācis ar smagu fizisku darbu dzelzslietuvē, viņš absolvēja augstskolu kā būvinženieris, mūziku atstājot saviem brīvajiem brīžiem. 1961. gadā Dzenis iesaistījās Alberta Legzdiņa dibinātajā grupā "Čikāgas piecīši".

1972. gadā Ilmārs Dzenis uzsāka savu solokarjeru. Viņa ieskaņojumos iemūžinātas latviešu tautasdziesmas un tradicionālās dziesmas, melodijas no 30. gadu Bellaccord Electro skaņuplatēm, daži Padomju Latvijā tapuši skaņdarbi un jau Amerikā saklausītas vietējās dziesmas un populāri rietumu grāvēji – "Taurenītis", "Dilaila", "Lusile", "Krodziņā" un citi. 

2006. gadā mūziķis apbalvots ar Atzinības krustu. 2011. gada sākumā Ilmārs Dzenis pelnīti saņēma Latvijas mūzikas ierakstu Gada balvu par mūža ieguldījumu mūsu populārās mūzikas attīstībā.