萨摩藩武士井上七郎的长男。幼名直八。与同郷的井上良智海军中将是亲戚，与长州藩出身的井上馨没有关系。

文久3年（1863年）8月爆发萨英战争，井上良馨初次参战，被弹片贯穿左腿，负重伤。

庆应4年（1868年）担任“春日舰”的小头，参加戊辰战争。在明治新政府中，井上的经历与伊东祐亨非常相似。日清战争中，伊东祐亨战功卓著，两人又几乎同时晋升。新制度制定后，井上良馨任“龙骧”号中尉军官，明治5年（1872年）任“春日号”舰长。他赞成西郷隆盛的征韩论。在担任“春日号”舰长期间，镇压佐贺之乱、出兵台湾。

明治7年（1874年）10月，井上良馨迁任“云扬号”舰长，次年3月被派往朝鲜，威胁李氏朝廷，9月15日，炮击江华岛炮台，并攻占炮台，被称为江华岛事件。此后归国回长崎向川村纯义中将报告。

同年10月任“清辉号”舰长，期间参加西南战役。从明治12年（1879年）历任“东号”、“浅间号”、“扶桑号”舰长，明治15年（1882年）6月晋升为大佐。明治17年（1884年）2月至10月间，担任海军省军事部次长。明治20年（1887年）被封为男爵。明治25年（1892年）12月晋升中将。日清战争胜利后，井上进为子爵，担任西海舰队司令长官。此后历任军务局长、参谋本部海军部长，军衔升至大将。明治44年（1911年）被授予元帅府元帅。昭和4年（1929年）3月22日85岁（虚岁）时去世。

庆応04(1868).01二等士官春日佔椟/p>

明治04(1871).03龙骧佔椟/p>

明治04(1871).05海军中尉

明治04(1871).07.23海军大尉

明治05(1872).07龙骧副长

明治05(1872).10.24海军少佐

明治05(1872).11.15春日舰长

明治07(1874).10.14免

明治07(1874).10.20云扬舰长

明治08(1875).10.15清辉舰长

明治08(1875).12.15高雄丸船长

明治09(1876).03.22清辉舰长

明治09(1876).04.04海军中佐

明治12(1879).08.19东舰长

明治13(1880).06.14浅间舰长

明治15(1882).06.06海军大佐

明治15(1882).08.20扶桑舰长

明治15(1882).10.23扶桑舰长/浅间舰长

明治16(1883).01.11扶桑舰长

明治17(1884).02.08海军军事部次长

明治17(1884).12.20金刚舰长

明治19(1886).01.06扶桑舰长/常备小舰队参谋长

明治19(1886).01.29海军省军务局次长/海军省军务局将校课长

明治19(1886).06.15海军少将

明治19(1886).06.17海军省军务局长

明治19(1886).08.20海军省军务局长/将官会议议员

明治20(1887).05.24男爵

明治21(1888).08.16海军省军务局长/海军大学校长/将官会议议员

明治22(1889).03.08海军省第一局长/将官会议议员

明治22(1889).03.15海军省第一局长/将官会议议员/海军大学校长

明治22(1889).05.15常备小舰队司令官

明治22(1889).07.29常备舰队司令长官

明治24(1891).06.17海军参谋部长/将官会议议员

明治25(1892).12.12海军中将佐世保镇守府司令长官

明治26(1893).05.20横须贺镇守府司令长官/将官会议议员

明治28(1895).02.16西海舰队司令长官

明治28(1895).11.16常备舰队司令长官

明治29(1896).02.26呉镇守府司令长官

明治33(1900).05.20横须贺镇守府司令长官/将官会议议员

明治34(1901).12.24海军大将

明治37(1904).01.14横须贺镇守府司令长官/军事参议官

明治38(1905).12.20军事参议官

明治40(1907).09.21子爵

明治44(1911).10.31元帅

昭和04(1929).03.22従一位大勲位殁(85)