1933年11月27日，出生于衡阳市衡南县鸡笼镇一个贫苦农民家庭。父母的早逝，童年的苦难，8岁替地主放牛，使他养成爱憎分明、勇敢顽强的性格。

左崇义出生后不久，做了一辈子长工的父亲因劳累过度而早逝。1945年，母亲在贫病交加中死去，留下他们兄妹三人。未成年的三个孤儿，从此靠叔叔抚养。

1941年，左崇义就替地主放牛，常常被牛顶得鼻青脸肿。童年的苦难，锻造了他爱憎分明、勇敢顽强、奋发进取的性格。从他开始懂事时起，就耳闻目睹了日本帝国主义在衡阳胡作非为的暴行，激起他满腔仇恨。他紧握小拳头，盼望着自己有一天能上战场，把侵略者赶出中国。他几次想去寻找穷人的军队，都因年龄太小被叔叔拦住。

1949年10月，衡宝战役结束，衡阳解放。1950年，已经17岁的左崇义经人介绍去常宁县白沙镇学木工。当时常宁白沙镇暗藏的反革命势力还很强大，人民政府经常遭到反革命势力的骚扰破坏和袭击。为了保卫新生的人民政权，左崇义带领工匠们积极参加县委领导的“铁（匠）木（匠）工会”，打制梭镖、大刀，昼夜值班放哨，与反革命努力斗争。

1953年4月，毅然报名参军，同年11月以优异的成绩被选入南京海军预科学校学习。

1954年，毕业后被编入南海舰队一支队。

1955年，任混合舰一支队151舰班长。

1956年，加入中国共产党。

1959年，调任枪炮长，授少尉军衔。他带领战士积极钻研军事技术，刻苦训练，出色完成了各项任务，多次受到表彰。

1961年，后任230舰副枪炮长、172舰枪炮长(授中尉军衔)。

1964年，任151舰副舰长(授上尉军衔)。

1966年，任214舰舰长。

1969年4月，任护卫舰一大队参谋长。

1969年10月，任扫雷舰十大队队长。所在的大队，由于政治思想建设突出，军事技术过硬，完成各项任务出色，多次被树为舰队模范团队。

1970年，《解放军画报》作了系列报道，向全军推广其经验。

1974年1月，越南西贡当局悍然入侵中国领海，奉命出任389舰、396舰组成的扫雷艇编队指挥长，会同榆林基地派出的2艘猎潜艇火速赶赴西沙执行补给任务。

1974年1月16日午夜，广州基地扫雷舰10大队大队长左崇义率扫雷艇编队从汶村码头启航，编队由广州基地扫雷舰10大队396舰（舰长吴功喜）和389舰（舰长肖德万）组成，扫雷舰10大队大队长左崇义为编队指挥长，396舰为编队旗舰。

1974年1月17日晚，扫雷艇编队到达了位于海南岛的榆林基地。在进行了一整夜的补给以后，1月18日早上7时30分左右，两艘舰艇从榆林基地启航。

1974年1月18日早7点，扫雷艇编队驶离了榆林码头，赶往永乐群岛海域。航行中编队进入三级战斗部署，各舰一门副炮值班。

1974年1月19日凌晨5点多钟，在西沙附近海域遇上4艘敌舰分两队向他们包抄过来，他命令舰队也分成两队拦住敌舰，不让敌舰入侵中国领海。在敌我力量悬殊、敌舰首先开火的情况下，他坚定、沉着地指挥战士们奋起反击。敌人企图凭借火炮口径大、射程远的优势拉开距离打。他识破了敌人的意图，果断指挥舰队死死咬住敌舰，利用舰小好调头、炮位灵活的优势，狠狠地打击敌人，击沉敌舰一艘，击伤3艘，歼敌百余人。这一战果在国际上引起强烈反响，外国人误断中国军队使用了导弹。1974年10月，任海军广州基地副司令员（副军职）。根据中央军委的指示，带领西沙之战英模代表团赴各地巡回演讲。

1977年8月，出席党的十一大，当选为中央候补委员。

1979年2月，到北京军事学院(今国防大学)学习一年。

1980年，率领基地舰艇去南太平洋执行中国首次发射洲际导弹的供给任务，受到海军、国防科委和中央军委的通令嘉奖。

1982年9月，当选为党的十二大代表。

1985年8月，全军统一调整领导班子，实行干部队伍“四化”建设，他主动退居二线，改任调研员，仍热情关心海军海防建设，关注国际国内大事，参加改革开放和社会主义现代化建设。

2011年5月30日13:00，左崇义在广州因病逝世，享年78岁。

1974年中央军委通令嘉奖全体参战官兵，他荣立二等功（一等战功），并出席中央军委八一英模招待会，受到周恩来、聂荣臻、徐向前等中央领导同志的亲切接见。

1988年12月，被授予中国人民解放军少将军衔。