1989年，马克·鲁法洛参演了电视选集《CBS Summer Playhouse》；同年，他参演了家庭电视电影《Nuclear Family》。

1992年，参加个人首部短片《Rough Trade》；同年，为某护肤品拍摄了一段广告  。1994年，出演个人首部电影《禁入魔镜2：黑舞》  ；9月，与德蒙特·莫罗尼搭档主演的喜剧电影《青春岁月》上映；12月，参演由保罗·哈吉斯主演的冒险剧《正南方》。

1995年，与比利·德拉戈共同主演恐怖电影《禁入魔镜3》。1996年，出演由布赖恩·约兹纳执导的恐怖电影《魔鬼牙医》  。1997年，在家庭喜剧电视电影《圣诞节的第二天》中饰演有同情心的百货商店保安伯特  。1998年，其参演的外百老汇戏剧《这是我们的青春》上演，马克·鲁法洛饰演混血富二代华伦·斯特劳布  。1999年，参演由李安执导的战争影片《与魔鬼共骑》  。

2000年，搭档劳拉·琳妮主演家庭电影《你可以信赖我》，饰演做事浮躁、不守规矩的泰利  ；马克·鲁法洛凭借该片获得了第26届洛杉矶影评人协会奖最佳新人奖  ；同年，与海瑟·格拉汉姆、卡西·阿弗莱克合作出演的喜剧片《爱的承诺》上映。

2001年，与罗伯特·雷德福、詹姆斯·甘多菲尼共同主演动作电影《对垒风暴》  。2002年，其主演的爱情电影《真爱染色体》上映，饰演钟爱3P的年轻艺术家科尔斯  ；同年，主演由吴宇森执导的动作战争片《风语者》，饰演担任步兵的米洛·帕帕斯下士  。

2003年，主演爱情电影《没有我的日子》  ；3月，与格温妮斯·帕特洛、克莉丝汀娜·亚伯格等人共同主演的爱情喜剧电影《美国空姐》上映，饰演研读法律的工读生泰德·斯图尔特  ；同年，与梅格·瑞恩搭档主演色情恐怖片《裸体切割》  ，饰演一名外表冷漠，内心热情的侦探  。

2004年，其主演的爱情文艺片《爱不再回来》上映；随后，与金·凯瑞、凯特·温丝莱特等人联合主演爱情电影《美丽心灵的永恒阳光》，并担任该片的监制，他饰演了精神病专家爱德华博士荒诞搞笑的助手斯坦  ；同年，与珍妮弗·加纳联袂主演爱情电影《女孩梦三十》，饰演吉娜·琳克小时候爱慕的邻家男孩马特  ；马克·鲁法洛凭借该片与珍妮弗·加纳共同提名了第15届MTV电影奖最佳音乐表演  ；此外，他还参演了由迈克尔·曼执导的犯罪片《借刀杀人》  。

2005年，主演由马克·沃特斯执导的奇幻爱情电影《宛如天堂》，与瑞茜·威瑟斯彭饰演一对恋人  ；年底，与詹妮弗·安妮斯顿、凯文·科斯特纳等人联合主演的爱情喜剧片《流言蜚语》上映，饰演女记者莎拉的未婚夫杰夫  。

2006年，其主演的百老汇戏剧《醒来歌唱！》在林肯中心上演，他饰演了自作聪明的讽世者莫伊·阿克塞尔罗德  ；他凭借在剧中的表现提名第60届托尼奖最佳话剧男配角  ；同年，参演由斯蒂文·泽里安执导的传记电影《国王班底》，该片根据罗伯特·佩恩·沃伦的同名小说改编  。

2007年，参与动画纪录片《芝加哥10》的配音；3月，与杰克·吉伦哈尔、小罗伯特·唐尼领衔主演的悬疑片《十二宫》上映，饰演旧金山警局中大名鼎鼎且野心勃勃的探长戴夫·托斯彻  ；同年，与杰昆·菲尼克斯、詹妮弗·康纳利等人联合主演了犯罪惊悚电影《冲击之路》，饰演驾车撞死人后逃逸的律师德怀特·亚诺  。

2008年，与朱丽安·摩尔共同主演的惊悚电影《盲流感》在第61届戛纳国际电影节上首映，饰演一位坚定勇敢的医生  ；同年，与阿曼达·皮特、伊桑·霍克共同主演犯罪片《什么不会杀死你》，该片于同年9月在加拿大多伦多国际电影节首映  。

2009年，与蕾切尔·薇姿、亚德里安·布洛迪联合主演的喜剧电影《布鲁姆兄弟》上映，饰演全世界最高明的骗子斯蒂芬  ；同年，主演由斯派克·琼斯执导的奇幻电影《野兽家园》  。

2010年，马克·鲁法洛的导演处女作《对美味的怜悯》在美国圣丹斯国际电影节首映，该片由奥兰多·布鲁姆、朱丽叶特·刘易斯主演  ，获得了该电影节的评审团特别奖  ；随后，与莱昂纳多·迪卡普里奥、本·金斯利联合主演悬疑片《禁闭岛》，饰演美国联邦职行官查克·奥尔  ；4月，其参演的喜剧电影《约会之夜》上映  ；同年，与安妮特·贝宁、朱丽安·摩尔合作主演了情感电影《孩子们都很好》，饰演为一对女同性恋捐精的保罗  ；他凭借片中的表现入围了第83届奥斯卡金像奖最佳男配角  、第64届英国电影学院奖最佳男配角等奖项  ，并获得了第76届纽约影评人协会奖最佳男配角  。

2011年，搭档马特·达蒙、安娜·帕奎因主演剧情片《玛格丽特》，饰演肇事的公交车司机杰拉尔·德马雷蒂  。2012年5月，与小罗伯特·唐尼、克里斯·埃文斯、克里斯·海姆斯沃斯等人联合主演的科幻动作电影《复仇者联盟》正式上映，马克·鲁法洛饰演了一动怒就会身形巨涨的“绿巨人浩克”布鲁斯·班纳  ；他与“复仇者联盟”其它演员凭借该片共同获得了第23届MTV电影奖最佳打斗场面  。

2013年，以布鲁斯·班纳的身份出现在科幻动作电影《钢铁侠3》的片尾彩蛋中  ；5月，与杰西·艾森伯格、伍迪·哈里森等人联合主演的魔术犯罪电影《惊天魔盗团》上映，饰演崇尚法律秩序的FBI探员罗德  ；同年，主演爱情电影《感谢分享》，与格温妮丝·帕特洛展开了一段恋情  。

2014年，主演由瑞恩·墨菲执导的剧情电视电影《平常的心》，饰演宁可牺牲自己，也要为同性恋群体争取人身自由权的同志作家奈德  ；马克·鲁法洛同时还担任了该片的监制；该片获得了第66届黄金时段艾美奖的最佳电视电影  ，马克·鲁法洛则因此提名迷你剧或电视电影类最佳男主角  ，并获得了第21届美国演员工会奖电视奖电视电影和迷你剧最佳男主角  ；7月，与凯拉·奈特莉搭档主演的音乐爱情片《再次出发之纽约遇见你》正式上映，饰演因事业不得志而酗酒成性的音乐制作人丹  ；同年，担任喜剧电影《永远的北极熊》的主演以及监制，饰演一位患有躁郁症的男人，与佐伊·索尔达娜饰演一对夫妇  ；他凭借该片入围了第73届美国电影电视金球奖电影类-音乐喜剧类最佳男主角  ；随后，主演由贝尼特·米勒执导的犯罪电影《狐狸猎手》，饰演为人平和、缜密、温柔的金牌奥运摔跤手戴夫·舒尔茨  ；他因此入围第87届奥斯卡金像奖最佳男配角  、第72届美国电影电视金球奖最佳男配角  、第68届英国电影学院奖最佳男配角等奖项  。

2015年，与小罗伯特·唐尼、克里斯·埃文斯、克里斯·海姆斯沃斯等人共同主演的科幻动作电影《复仇者联盟2：奥创纪元》正式上映，继续饰演“绿巨人浩克”布鲁斯·班纳  ；同年，在由托马斯·麦卡锡执导的传记电影《聚焦》中饰演对被采访或调查者毫不留情的聚焦独立调查小组组员麦克  ；他凭借该片提名第88届奥斯卡金像奖最佳男配角  、第69届英国电影学院奖最佳男配角等奖项  ，与其它主演凭借该片共同获得了第21届美国电影评论家选择奖最佳群戏  。

2016年，担任纪录片《亲爱的总统奥巴马》的监制  ；与杰西·艾森伯格、伍迪·哈里森、周杰伦等人共同主演的魔术犯罪片《惊天魔盗团2》上映，饰演擅长逃脱魔术的四骑士幕后召集者罗德  ；10月，担任伯尼·桑德斯所著书籍《我们的革命：一个相信未来的未来》有声读物版的朗读人，并推出朗读专辑  ，该专辑提名了第60届格莱美奖最佳诵读专辑  。

2017年，与托尼·夏尔赫布、杰西卡·赫特、丹尼·德·维托共同主演的百老汇戏剧《代价》首演  ；同年，克里斯·海姆斯沃斯、汤姆·希德勒斯顿共同主演科幻动作片《雷神3：诸神黄昏》，饰演鬼使神差地跑到了萨卡星球的浩克  ；他与克里斯·海姆斯沃斯的打戏提名第28届MTV电影电视奖最佳打斗场面  。

2018年，与小罗伯特·唐尼、克里斯·埃文斯、克里斯·海姆斯沃斯等人共同主演科幻动作电影《复仇者联盟3：无限战争》，饰演无法变身成浩克的布鲁斯·班纳  ；6月，担任爱情电影《任何事物》的监制，该片根据McNeil创作的同名戏剧改编，由马特·波莫、约翰·卡洛·林奇等人共同主演  。

2019年3月，由布丽·拉尔森主演的科幻电影《惊奇队长》上映，马克·鲁法洛在片尾彩蛋中以“布鲁斯·班纳”的身份登场；4月24日，其主演的科幻动作电影《复仇者联盟4：终局之战》在中国上映，马克·鲁法洛饰演已经与浩克“合体”的布鲁斯·班纳  ；11月22日，主演由托德·海因斯执导的惊悚电影《黑水》，其饰演一位狂热的律师，同时他也是制片人之一  。

2021年4月5日，凭借在电视电影《我知道这是真的》中的表演获得第27届美国演员工会奖-电视类最佳电视电影男演员奖  。