畠山氏是坂东八平氏之一秩父氏的同族，领地为武藏国男衾郡畠山乡。和其同族的还有河越氏、江户氏、丰岛氏。与大多数关东武士一样，畠山氏效忠于源氏。畠山重忠的父亲畠山重能在源义朝败死后，归顺于平氏，此后20多年效忠平氏。

承治四年（1180年）8月17日，源义朝的三子源赖朝以收到以仁王“打倒平氏”的令旨为借口，起兵讨伐平氏。此时畠山重忠的父亲畠山重能正在京都担任警护职务，于是十七岁的畠山重忠就奉平氏的命令率领同族参与了对源赖朝的讨伐。8月23日，源赖朝在石桥山之战中被大庭景亲击败。此时正在相模国的畠山重忠与赶来和源赖朝会和的三浦氏军队遭遇，双方稍一接触即各自后退。8月26日由于与河越重赖和江户重长会和后，力量得到加强的畠山重忠率军向着三浦氏的本城衣笠城发起攻击，三浦氏见势不妙即放弃衣笠城而退走，此战中畠山重忠军杀死了老迈的三浦氏当主三浦义明。

9月源赖朝再次在安房国举兵，千叶常胤、上总广常率领2万骑以上的大军加入源赖朝一方，从房总半岛向武藏国进军。10月畠山重忠、河越重赖、江户重长在长井渡向源赖朝归降。源赖朝大喜，任命畠山重忠为先锋，向相模国进军。随后源赖朝大军兵不血刃的进入了镰仓。

此后畠山重忠正式进入源赖朝的御家人行列，并在源赖朝参拜鹤冈八幡宫时担任警卫工作。

寿永2年（1183年）将平氏驱逐出京都而占据京都的木曾义仲与源赖朝发生了冲突。源赖朝命令弟弟源范赖和源义经率领6万骑大军向近江国进军。寿永三年（1184年）正月镰仓军与木曾义仲军在宇治川和势多发生激战，畠山重忠率领500骑渡过宇治川击败木曾义仲军，立下大功。此战镰仓军大胜，木曾义仲就此灭亡。

1183年2月，源范赖、源义经率领大军从京都出发，继续讨伐逃到摄津国福原的平氏政权。此次进军畠山重忠从属于源范赖军，在一之谷之战中，镰仓军获得大胜，平氏再次逃亡赞岐国屋岛。

随后源义经、源范赖又接着发起了中国.九州远征，从《吾妻镜》的记载来看，在出征名单中没有畠山重忠的名字。

元历2年（1185年）3月，源义经在坛浦之战中将平氏灭亡。

灭亡平氏后不久，源义经、源赖朝就发生了对立，源义经在京都举兵，但失败逃亡。源义经的岳父河越重赖受到牵连，被连坐诛杀。河越重赖所担任的武蔵留守所总检校一职由畠山重忠继任。

文治2年（1186年）源义经的爱妾静御前被源赖朝命令在鹤冈八幡宫前跳白拍子舞以助兴，畠山重忠受命给静御前打拍子伴奏。

文治3年（1187年），畠山重忠的领地伊势国沼田御厨的代官犯法，畠山重忠受到牵连，而此事被侍所所司梶原景时抓到机会，诬告畠山重忠谋反。于是源赖朝命令千叶胤正将畠山重忠关押起来，与此同时源赖朝召开重臣会议，商量对畠山重忠的处罚。在重臣会议上源赖朝的近臣小山朝政和下河边行平一起含泪为畠山重忠做了辩护。对此次被囚深感耻辱的畠山重忠决定绝食自杀，此事传到源赖朝耳中，由于源赖朝对畠山重忠的勇武非常赞赏，于是决定赦免畠山重忠，由是畠山重忠才得以安然无恙的躲过了一劫和同族一起回到居城武藏国菅谷馆。

在梶原景时审讯畠山重忠时，要求畠山重忠写下誓言书，畠山重忠对此表示拒绝，申明说：“我并无二心，写誓言书是没有必要的。”此话被梶原景时传到源赖朝耳中，源赖朝对此大为赞赏，立刻召见了下河边行平和畠山重忠，对他们表示了嘉奖。

文治5年（1189年）夏，源赖朝决定亲率大军讨伐奥州藤原氏，命令畠山重忠为先锋。在阿津贺志山之战中，畠山重忠作为先锋表现出色，一举击溃奥州藤原军的主力。在源赖朝的大军压境面前，藤原泰衡被迫烧毁居城平泉而逃亡，奥州藤原氏政权就此灭亡。

战后为了追查藤原泰衡的下落，梶原景时受命审讯被抓获的藤原泰衡的部下由利八郎，由于梶原景时态度傲慢，由利八郎对此表现出了对抗的态度，无论梶原景时怎么问，由利八郎始终一言不发。于是源赖朝立刻换人，把由利八郎交给畠山重忠来审讯。畠山重忠以礼对待由利八郎，最终使由利八郎开口交代了。事后，由利八郎对人感叹道：这个男人和先前那个人真是有天壤之别啊。

由于奥州之战立下的战功，畠山重忠获得了陆奥国葛冈郡的封地。相对于畠山重忠立下的功劳，葛冈郡是一块狭小的土地，但畠山重忠还是没有怨言的接受了封地。

建久4年（1193年）武藏国西南部的丹党和西北部的儿玉党两个武士团之间产生了仇怨，战争一触即发。在此危机时刻，畠山重忠对两者进行了调解，化解了一场刀兵之祸。

源赖朝两次进京都时，畠山重忠都是先锋。

正治元年（1199年）正月，源赖朝死去，死前留下要畠山重忠世代守护源氏政权的遗言。同年10月，梶原景时在将军源赖家面前进谗言诽谤结城朝光。此事激起了原本就对梶原景时不满的众人的怒火，以三浦义村和和田义盛为首一共66名将领发起联署，对梶原景时进行了弹劾。在弹劾联署上畠山重忠也签上了名字。最终梶原景时被驱逐出镰仓，正治2年（1200年）梶原景时全族被诛杀。

建仁3年比企能员之变中，畠山重忠站在北条氏一方，比企氏全族被灭。将军源赖家被幽禁，随后被谋杀。继任将军是源赖家之弟源实朝，自此幕府执权北条时政彻底掌握了镰仓幕府的实权。

元久元年（1204年）11月，畠山重忠的儿子畠山重保与北条时政的后期妻之方的女婿平贺朝雅在酒宴上发生争执。此事引起了牧之方对畠山氏的仇恨，于是牧之方向北条时政进谗言，要求处罚畠山重忠。元久2年（1205年）6月，北条时政与儿子北条义时和北条时房经过密谋，决定对畠山重忠下手。首先由北条时政的女婿稻毛重成在一次会议上对提出畠山重忠要谋反的指控，随后将军源实朝发布了讨伐畠山重忠的命令。

6月22日身在镰仓的畠山重保被杀。与此同时，畠山重忠接到了“镰仓发生异动，速速赶来”的命令，对阴谋一无所知的畠山重忠立刻率领150骑离开居城武藏国菅谷馆赶往镰仓，当畠山重忠前进到武藏国二俣川时，被北条义时率领的数万大军包围。此时才恍然大悟的畠山重忠带着必死的觉悟，与北条义时的大军展开奋战，终因寡不敌众，被镰仓幕府的御家人爱甲季隆射杀，享年42岁。