张丕矩1908年在邹县田黄社创办田黄初等小学堂。1913年任邹东劝学所员，1917年任县劝学所所长。当时军阀混战，土匪猖撅，办学非常困难，他仍巩固了一批学校，还在邹县高等小学门外办露天学校，招收成年人入学。同年，他主编《邹县地理志》共二十三章。1921年被选为邹县教育会会长，并任县立女子小学校长。1925年任县通俗讲演所所长，后受聘于汇泉永商号于仲华家任家庭教师。1930至1937年，先后在城前村、水泊村、莫亭村、柳下邑、姜家窝等小学任教师。1938年邹县沦陷后，曾应聘任书院小学校长，因不愿为日本人效劳，任职仅两个月就愤然辞职。后在城内商人王警洒家任家庭教师。1938年在王警泅资助下，他同四哥张家祯在文庙内创办崇孟学社，执教6年。1942年他曾参与编写《郭里地理志》。1944年后受聘任滋阳县师范和滋阳县中学教师，并兼设在滋阳县的天主教神学院教员。1950年回家乡时己73岁高龄，这时农村正大办冬学，他自荐当扫盲教员，教家乡农民识字。为此《大众日报》作了题目为《老秀才为山区教育献余热》的报导。1957年被选为邹县人民委员会委员。1958年被山东省文史研究馆聘为馆员。

他热心公益事业，1915年任劝学员时，向县图书馆捐购书刊数十种;1924年任县立女子小学校长时，将薪金人洋100元(约半年的工资)捐给学校作维修费，省公署奖给银色三等褒章。他特别崇敬孔子和孟子，为刻立孔孟诞生地两块石碑，他四处奔走，多方集资，历时3年终将“两圣碑”刻立于邹县火车站下。1964年他身患重病，临终前对如何处理自己一生收藏的书籍作了安排，将较有价值的书刊捐给省图书馆，将教科书及考古材料捐给曲阜师范学校，其余书籍一律捐给邹县文物保管所。其藏书包括经书、教科书、兵书、药书、报纸、杂志、名人字画、读书笔记等。张一生从事教育，学生遍及邹、滕、兖、泗等地。1965年病故。