Zilk patřil k nejpopulárnějším rakouským politikům. V politice se angažoval jako člen Rakouské sociálnědemokratické strany (SPÖ) a především ve funkci starosty rakouské metropole, kterou zastával deset let (1984-1994), si získal značnou oblibu. Ve funkci starosty se mu podařilo otevřít Vídeň lidem - zasadil se o vznik tradičních vánočních trhů a operních festivalů. Dokázal ale také vytěsnit z centra města auta. Krátce byl i spolkovým ministrem školství. Řadu let pak stál v čele Rakousko-české společnosti.
Vzděláním učitel pracoval původně jako novinář v rozhlase a televizi. V Československu se vyznamenal tím, že v šedesátých letech inicioval první živé a necenzurované televizní vysílání na území Československa. Byly jím debaty, které vedl spolu se svým československým protějškem Jiřím Pelikánem. Po Zilkově úmrtí se objevilo podezření, že spolupracoval v 60. letech s StB.