出身于没落士大夫家庭，幼时家境贫寒。他颇有学问，能骑善射，32岁时武举登科，从此开始军旅生涯。他刚直不阿、一生忧国忧民，追求正义，几处逆境而无悔无怨。47岁任全罗左道水军节度使后(朝鲜王国皇家海军全罗左道舰队司令)，积极操练水军，构筑防御阵地，并创建了铁甲战舰“龟船”，防范倭寇的进犯,最后在露梁海战中不幸中弹牺牲。

1576年武科及第后，曾任全罗道井邑县监等职。

1591年任全罗道左水军节度使。为抵御外侮，操练水军，建造铁甲“龟船”。

从1591年起，日本就积极着手进行侵朝战争的各项准备。李舜臣在国家危难之时，承命于全罗左道水军节度使这一海军要职。李舜臣到职后，即竭尽全力加强海军建设，做好反侵略战争的准备。他着重抓了整顿军队和改制武器两件事。在整顿军队方面，他吸收了朝鲜海军的优良传统及外国的先进经验，对所属海军的战斗编队、战略战术、进行了改革；并加强了对部队的爱国主义教育，使指战员都成为忠于祖国、英勇善战的勇士。先进的武器是克敌制胜的重要因素。为了提高朝鲜海军的战斗力，李舜臣还对“龟船”进行了改造。改进后的“龟船”长10余丈，宽1丈多，船身及上面的“龟壳”用硬木制作，包上铁板，敌人炮火不易伤害它。铁板上还装有密集的铁钉，使敌人在接舷战时无法攀登。船头有一个大龙头，上设两个炮眼，在行进中船内可焚烧硫磺等物，烟从龙口喷出，可以起到隐蔽自己，迷惑敌人的作用。船身四周凿有很多炮眼枪眼，便于士兵在船内敌人发射火力。同时，船的两侧各有10面船桨，战斗时一齐划动，航行飞快，进退自如。加大后的船体可多存淡水、粮食，适合长时间、远距离航行。经李舜臣改造后的龟船马上投入成批生产，在以后的壬辰卫国战争中发挥了巨大作用。

1592年朝鲜壬辰卫国战争爆发后，日军20多万大军进犯朝鲜并迅速攻陷王京、开城、平壤等地，占领了大半个朝鲜半岛，韩国称这一段历史为“壬辰倭乱”。应朝鲜王朝之请，明朝派兵出援，从此开始了长达7年的中朝两国军民共同抗击日寇的战争，史称“壬辰卫国战争”。

在陆地屡战屡败的情况下，李舜臣部却于6～8月率部在玉浦、泗川和闲山岛等海战中连战皆捷，夺取制海权，粉碎日军水陆并进计划。9月任忠清、全罗、庆尚三道水军统制使。10月在釜山海战中又击沉日军海军将领九鬼嘉隆率领的敌船百余艘。而后日军海军不敢再战。

1597年日本施反间计使其受诬告而被革职下狱后，调集重兵再犯朝鲜。朝鲜水军在庸将元钧指挥下几遭全灭。9月，他重被起用后重整舰队，10月鏖战于露梁海峡，以13艘舰船击退330余艘敌舰，粉碎日军西进企图。随后移师古今岛(今莞岛)，建立海军基地，同陈璘、邓子龙率领的中国水军组成联合舰队，对敌加强进击并实施海上封锁。

1592年4月，日本侵略者以陆军的优势兵力在朝鲜釜山登陆，同时以强大的舰队配合陆军行动。李舜臣指挥朝鲜水师奋起抗击，屡挫日本海军，牢牢地控制着制海权，迟滞了日本陆军的进攻速度。5月上旬，李舜臣水师与日本海军在玉浦洋面上展开激战。当时，日军傲气十足，不把朝鲜水师放在眼里，在玉浦港的日本战船上的大部分水兵一登岸，便进村庄抢劫去了。李舜臣乘敌不备，率85艘舰船隐蔽疾驶，直扑玉浦港，当即击沉、烧毁敌舰26艘，击毙日军1000余人，当晚又击沉击毁敌舰18艘，朝鲜水师仅一人负伤。

从5月底到6月上旬，李舜臣又指挥了唐浦战役。1592年5月29日，李舜臣率领备龟船的23艘战舰，与元均指挥的水师会合，准备向泗川洋面的日军阵地发动进攻。到达预定地点时，李舜臣发现敌占据的地形险要，不利攻击，便随机应变，采取以退为进的战术，诱敌出港，准备在洋面上歼灭敌人。日本海军见朝鲜海军不战而退，误以为是胆怯，即全力追击。待敌追至对朝鲜水师有利的海域时，李舜臣出其不意地转退为进，以“龟船”充当先锋，冲入敌阵，左冲右撞，往来穿梭，同时发射各种火炮，将敌舰撞破或击沉。其它战船也不甘示弱，箭炮齐发，日本舰队大乱。经过一番激战，日军参与追击的全部舰船不是被击沉就是被缴获。1592年6月2日，李舜臣率舰队进攻唐浦敌军，令龟船冲向敌旗舰并将其撞破，同时纵火将在唐浦的21艘敌舰全部烧毁。1592年6月5日，李舜臣与李仁祺部，采取诱敌出洋，前后夹攻的战术，又烧毁敌舰26艘。7月，朝鲜水师在闲山岛海战中击毁敌舰近百艘，一举歼灭敌海军主力。

为挽回败局，日寇巧施反间计得逞，李舜臣被撤职，致使朝鲜水师几乎全军覆灭，闲山岛大本营被敌人占领。这时朝廷迫于国内舆论的强大压力，重新任命李舜臣为三道水师统制使，委以挽救国家危亡的重任。但同时，朝廷认为水师已垮，难以御敌，令李舜臣率部登陆作战。临危受命，再次复出的李舜臣以军事谋略家的眼光洞察形势，认为水师绝不可废。李舜臣以残存的12只战船和120名水兵为基础，首先补充了一部分兵员，抓紧训练，其次重新选择了新的水师基地，李舜臣仔细分析了敌我双方的力量及其它因素。很明显，敌人在兵力上占有绝对优势。我方要取胜，必须借助地利，即利用有利地形打击敌人。8月底，李舜臣指挥朝鲜水师击退前来偷袭的8艘敌舰后，主动撤到地势险要的珍岛碧波亭隐蔽起来。这一带的地势李舜臣是了如指掌的：前有小岛阻拦，港内可以隐藏数十艘战船；更为有利的是这个海域有一条狭窄的通道，即鸣梁海峡。这里每天海潮涨落4次。李舜臣认为这个“阻难狭路”是杀敌好战场。他派人在鸣梁海峡东西两个出口暗设铁索和木桩，目的是要涨潮时驶入的敌舰，退潮时不能驶出，给朝鲜水师提供一个理想的瓮中捉鳖的场所。

1592年9月16日，日军以330艘战船和2万多人的兵力向朝鲜水师发起进攻，在敌我双方兵力十分悬殊的情况下，李舜臣胸有成竹，沉着应战。他先派出几艘战船进攻敌舰，将大批敌舰引入鸣梁海峡。不久，潮水退落，敌舰被暗设的铁索；木桩所阻，无法驶出。李舜臣即派水师反攻，以12艘战船击沉敌船30多艘，歼敌4000余人。这就是朝鲜历史上著名的“鸣梁大捷”也是世界海军史上以少胜多的光辉战例。随后李舜臣移师古今岛(今莞岛)，建立基地。1598年12月在露梁海战中，与陈璘等指挥联合舰队大败敌船队，但在追击逃敌时中弹牺牲。两年后，朝廷为表彰他的功绩，封他为一级宣武功臣。1643年即他死后的45年，赠谥“忠武”，从此，朝鲜半岛人民为了纪念他，称他为“忠武公”。追封为右议政、左议政及领义政。遗著辑成《李忠武公全集》。

供奉着李舜臣将军灵位的显忠祠建于1706年，位于芳华山脚下，周围群山环抱，祠内松柏成荫。显忠祠占地50多万平方米，除了“本殿”之外，还有“号”、“古宅”、“家庙”以及李氏家族使用过的水井等古式建筑。有关李舜臣将军的历史资料和当年他与倭寇海战时使用过的武器等实物，明朝皇帝赐与他的都督印、令牌和斩刀等8件赐品的复制件，则被精心地保存在“遗物馆”里。每逢4月28日，即李舜臣诞生的日子，显忠祠都要举行祭祀活动。显忠祠在日本帝国主义的残酷镇压下一度荒颓，1945年日本投降后，纪念忠武公的活动得以恢复。

1966年，韩国政府将此地辟为“圣域”，重建显忠祠，园区的综合景观工程一直持续到1974年。 另外，在汉城（首尔）的韩国国会门外，有一尊李舜臣雕像；韩国海军护航舰艇“忠武公李舜臣”舰；他与李氏朝鲜世宗雕像对立与国会门外两旁，可见他在韩国人民心目中的地位之高。在大韩民国，许多学校在放置檀君像及世宗大王像的同时，也还设有忠武像。该国首都首尔的忠武路便是为纪念李舜臣的历史功绩所命名。在釜山的龙头山公园，亦建有李舜臣将军铜像。另外，他的头像也出现在该国的100韩元硬币上。韩国海军开发的KDX-II驱逐舰被称为忠武公李舜臣级驱逐舰。