Santuri Hilmi Bey'in torunu olan Osman Zeki Güngör, 1880 yılında Üsküdar'da doğdu. On bir yaşındayken Musika-i Hümayûn'a (saray orkestrasına) alındı ve keman bölümünü bitirdi. Orkestradaki başarısı II. Abdülhamit'in dikkatini çekti ve konser kemancısı olarak yetiştirildi. Opera orkestrasına başkemancı tayin edilerek Vondra Bey'den sonra uzun yıllar başkemancı olarak çalıştı. Binbaşı rütbesine terfi eden Zeki Güngör, daha sonra Saray orkestrasına şef oldu.

Osman Zeki Bey, Safvet Atabinen'in oluşturduğu senfonik orkestrada da başkemancı olarak görev aldı. Bir süre sonra yaylı çalgılar bölümü öğretmenliğine atandı. İstanbul Erkek Muallim Mektebi'nde müzik dersleri verdi.

Onun döneminde ilk Türk orkestrası konser için Avrupa'da turneye çıktı. I. Dünya Savaşı sırasında Musika-i Hümayûn'la Viyana, Berlin, Dresden, Münih, Budapeşte ve Sofya'da şef olarak konserler verdi (Aralık 1917-Ocak 1918). Bu gezi dönüşünde Union Française'de haftalık konserler yönetmeye başladı.

1924'te Ankara'da çok beğenilen iki konser veren topluluk, Cumhuriyet'ten sonra Riyaset-i Cumhur Musiki Heyeti adı altında cumhurbaşkanlığına bağlandı ve Cumhurbaşkanlığı Senfoni Orkestrası'nın çekirdeği oluştu. Uzun süre Musiki Müesseseleri Müdürü ve Gazi Musiki Muallim Mektebi Müdürü olarak görev yaptı. Topluluğun ilk şefi olan Osman Zeki, 1934 yılında sağlık nedeniyle emekliliğini istedi. İstiklal Marşı dışında, çoğu marş türünde başka yapıtlar da bestelemiştir.

1958 yılında hayatını kaybeden sanatçının cenazesi, askeri armoni orkestrası tarafından İstiklal Marşı çalınarak Karacaahmet'te toprağa verilmiştir.