Pasaulē nācis nemuzikālā ģimenē, Gunārs tomēr iestājās mūzikas skolā, sākotnējo vijoļspēli drīz vien nomainot pret bungām E. Dārziņa un vēlāk arī Jāz. Mediņa mūzikas skolā. Dārziņskolā bungas puika iemaina pret savu pirmo trompeti, kas kļūst par īstu mūža mīlestību (viņš gan spēlējis arī klavieres un pat raustījis kontrabasu!). Padsmitnieka gados Rozenbergs apmeklē vietējos klubus, tostarp arī "Armatūru", kur tolaik spēlēja vislabākie Rīgas džezisti – Ivars Birkāns, Raimonds Raubiško, Alnis Zaķis, Aivars Krūmiņš, Gunārs Freidenfelds, kas vēlāk kļūst par viņa muzikālajiem kolēģiem. Gunārs inficējas ar džeza bacili un, kad, nepabeidzis mediņus, aiziet armijā (1965), nokļūst savā pirmajā džeza universitātē – karavīru ansamblī "Zvaigznīte". Tur priekšā jau ir Uldis Stabulnieks, Valdis Eglītis un Dzintars Beķeris, un top izcils džeza kvartets, kas kļūst arī par 1967. gada Tallinas džeza festivāla diplomandu, saņem Polijas Džeza federācijas balvu un togad uzvar arī festivālā "Liepājas dzintars".
Jau armijas laikā Rozenbergs pamanās kļūt par 1966. gadā dibinātā Latvijas PSR Televīzijas un radio estrādes orķestra mūziķi. Paralēli Gunārs kādu laiku spēlē trompeti Jāņa Sildega orķestrī kafejnīcā "Luna", arī Ivara Mazura orķestrī kultūras namā "Draudzība".