39 yaşında, Joe Clark 1979'da Kanada'nın en genç Başbakanı oldu. Mali muhafazakar Joe Clark ve azınlık hükümeti vergi artırımları ve program kesintileri bütçesine ilişkin güvensizlik hareketinde sadece dokuz ay iktidarda yenildi.
1980 seçimlerini kaybettikten sonra Joe Clark Muhalefetin Lideri olarak kaldı. Brian Mulroney 1983'te Kanada İlerici Muhafazakar Partisinin Lideri olarak devraldığında ve 1984'te Bakan Joe Clark, Dış İlişkiler Bakanı ve Anayasa Bakanı olarak etkin bir şekilde devam etti İşler. Joe Clark, 1993 yılında uluslararası bir iş danışmanı olarak çalışmak için politikadan ayrıldı, ancak 1998'den 2003'e kadar İlerici Muhafazakar Parti'nin Lideri olarak döndü.
Joe Clark siyasi kariyerine 1966'dan 1967'ye Alberta İlerici Muhafazakar Parti Örgütü Müdürü olarak başladı. 1967'de muhafazakar bir milletvekili Davie Fulton'a Özel Asistanlık yaptı. 1967'den 1970'e kadar muhafazakar bir milletvekili Robert Stanfield'da Yönetici Asistanlığı yaptı.
Joe Clark ilk olarak 1972'de Avam Kamarası'na seçildi. 1976'da Kanada İlerici Muhafazakar Partisi'nin lideri seçildi ve 1979'a kadar Muhalefetin Lideri oldu. Joe Clark 1979 genel seçimlerinden sonra Kanada Başbakanı olarak yemin etti.
Muhafazakar hükümet 1980'de yenildi. Joe Clark, 1890'dan 1983'e kadar Muhalefetin Lideriydi. Joe Clark İlerici Muhafazakar Parti liderlik sözleşmesi çağırdı ve 1983'te Brian Mulroney'e parti liderliğini kaybetti.
Mulroney hükümetinde, Joe Clark 1984-1991 yılları arasında Dışişleri Bakanı olarak görev yaptı. 1991-1993 yılları arasında Özel Konsey Başkanı ve Anayasa İşlerinden Sorumlu Bakan olarak görev yaptı. Joe Clark 1993 genel seçimlerinde çalışmadı.
Joe Clark 1998'de Kanada İlerici Muhafazakar Partisinin Lideri olarak döndü. 2000 yılında Avam Kamarası'na tekrar seçildi. 2002 yılında Joe Clark İlerici Muhafazakâr Partisi olabildiğince taşıdığını söyledi. Joe Clark'ın İlerici Muhafazakar Parti lideri olarak istifası Mayıs 2003'teki liderlik toplantısında etkili oldu.