1989年，与亚洲电视签约成为该电视台演员。加入亚视所拍摄的第一部电视剧为陈木胜监制的警匪题材剧集《赤子雄风》，出演反派。

1995年，签约无线电视。

1998年，出演王晶的喜剧赌片《赌侠1999》，获第18届香港电影金像奖最佳男配角提名。

1999年，在电影《千王之王2000》中饰演“梁宽”。

2004年，出演杜琪峰导演的《大事件》饰演“张志恒”。

2006年，主演电影《黑社会之以和为贵》。

2007年，在电影《出埃及记》饰“关炳文”，获得第27届香港电影金像奖最佳男配角提名。

2008年，张家辉与谢霆锋、张静初合作主演电影《证人》，凭借该片张家辉荣获第53届亚太影展最佳男主角、第28届香港电影金像奖最佳男主角以及第46届金马奖最佳男主角。

2010年，出演林超贤执导的警匪大片《线人》。

2011年，张家辉与谢霆锋、蔡卓妍、黄奕、何家劲、佟大为合作参演《财神客栈》；同年客串电影《建党伟业》，饰“梁启超”。

2012年，由张家辉、任达华、文咏珊、谢安琪主演的犯罪悬疑片《大追捕》，张家辉在片中饰演一位哑巴杀手“王远阳”，获得第49届金马奖最佳男主角提名、第32届香港电影金像奖最佳男主角提名。

2013年，出演电影《激战》饰“程辉”，凭借该片获得第16届上海国际电影节最佳男演员奖、第10届华鼎奖中国最佳电影男演员奖及第56届亚太影展最佳男主角提名；同年出演电影《扫毒》；同年首次执导电影《盂兰神功》，6、7月在马来西亚拍摄取景。

2014年，再次出演林超贤执导电影《魔警》。同年搭档郑秀文、Angelababy、欧豪主演爱情轻喜剧《临时同居》。

2015年2月19日，与周润发出演电影《澳门风云2》上映。4月30日，主演的电影《赤道》全国公映。同年再次执导惊悚题材电影《陀地驱魔人》。

2016年，与古天乐主演电影《使徒行者》，在电影中，张家辉所出演的蓝博文是一个有双重身份的卧底，当兄弟情与卧底正义相冲突时，他陷入了最艰难的抉择。

2019年8月7日，与古天乐合作主演的电影《使徒行者2:谍影行动》上映；9月12日，在上映的犯罪动作片《催眠·裁决》中饰演陪审团成员许立生。

2019年6月，由张家辉等主演的国产科幻片《末日拯救》正在制作中；8月16日，与杨紫、任贤齐等合作主演的电影《沉默的证人》上映。

2021年2月，出演由赵林山导演的电影《731》宣布开机。