1968年，张国柱在大学期间，拍摄了第一支广告。他从台湾师范大学体育系毕业后，曾任高中体育老师。

1977年进入影视圈，1978年，出演首部电影《哪吒三太子》。1979年，出演胡慧中主演的电影《欢颜》而收到关注。1981年3月26日，与林青霞、秦祥林共同主演惊悚电影《爱杀》，饰演杀人犯。1982年，主演励志电影《大远景》。

1983年9月2日，出演由钟镇涛、叶童主演的喜剧片《表错七日情》，饰演耐冬的丈夫雷先生。1984年6月1日，出演由万梓良、夏文汐主演的剧情片《唐朝豪放女》，在片中饰演配角欧阳铸剑师，张国柱凭借该片在1985年获得了第4届香港电影金像奖最佳男配角的提名；9月20日，主演剧情片《爱奴新传》。1985年2月19日，与尔冬升、王祖贤等人共同主演爱情片《再见七日情》，在片中饰演有妇之夫阿John；9月26日，与徐淑媛等人共同主演剧情片《现代豪放女》。1986年4月25日，主演剧情片《暗夜》，饰演青年商人黄承德。

1990年，由其出演的动作电影《巴黎孽恋》上映。1991年4月25日，与利智、樊少皇等人共同主演动作电影《魔域飞龙》，在片中饰演日本企业家中村宏一；7月27日，与张震、杨静怡共同主演的爱情电影《牯岭街少年杀人事件》上映，在片中饰演小四儿的父亲，凭借该片与儿子张震同时入围第28届金马奖最佳男主角奖。8月1日，出演由成龙、刘德华等人主演的动作电影《火烧岛》，在片中饰演黄伟好友淼生一角。

1992年11月12日，出演由刘德华、林青霞等人主演的武侠片《绝代双骄》，在剧中饰演江别鹤。1993年10月28日，与吴雪雯、林伟等人共同主的剧情片《那个少女不多情之脱的疑惑》。1994年4月15日，在林志颖、释小龙、郝劭文主演的喜剧片《笑林小子》中饰演皮少庭四毛的父亲。2001年5月31日，在古天乐、吴彦祖等人主演的动作电影《野兽之瞳》中饰演贺冲的父亲贺冲。2007年，凭借在电视剧《白色巨塔》中饰演的徐大明一角，获得了第42届台湾电视金钟奖戏剧类男配角奖。

2008年11月28日，在张孝全、任达华等人主演的动作片《弹·道》中饰演吴的亲信方正北。2010年7月2日，出演由刘烨、高圆圆等人主演的剧情片《无人驾驶》，在片中饰演王珞丹的父亲，该片是他进军中国内地市场的试水之作。2011年7月29日，与萧敬腾、林辰唏、周秀娜主演的喜剧电影《杀手欧阳盆栽》上映；10月25日，由其主演的剧情电影《酒徒》上映，在片中饰演卖文为生的作家老刘；11月23日，与方中信、张震、范文芳等人合作出演的爱情片《蓝色矢车菊》上映，在片中饰演聂华晨的父亲聂明思。

2016年7月8日，出演由郭富城、梁家辉等人主演的动作电影片《寒战2》，在片中饰演已退休的前警务处长蔡元祺。2017年8月11日，与李易峰、廖凡、万茜等人共同主演的动作片《心理罪》上映，在片中饰演犯罪心理学教授乔兰的父亲。12月，出演由赵丽颖、金瀚等人主演的都市剧《你和我的倾城时光》，在剧中饰演男主的父亲厉仲明。

2018年1月29日，影片《红尘1945》在江苏常州开机，张国柱参与演出。12月29日，由张峰执导、张承担任编剧的电影《老家伙们》在北京举行了开机发布会，张国柱在片中演出一个亦正亦邪的角色，影片预计2025年上映。2020年10月，与郭采洁等人共同主演电影《喜宝》，片中饰演富豪勖存姿。