佐贺县人， 佐贺藩足轻百武庭蔵第六子，三哥是海军大将， 昭和天皇的侍从长 百武三郎，五哥是海军大将，1945年九州帝国大学校长 百武源吾。1909年毕业于 日本陆军士官学校21期步兵科，同学中最出名的就是 石原莞尔。后特地前往波兰接受密码分析训练。1921年毕业于陆军大学33期，1924年晋升少佐，1927-1929年任陆军参谋部情报处密码科科长。1931-1932年任侵华日军关东军司令部 哈尔滨中佐特务机关长。9.18事变后，百武晴吉等人于 9 月 21 日策划制造了爆炸事件，混淆舆论，并4次急电请求 关东军派兵保护日本侨民。1935年任驻朝鲜龙山的 第二十师团属下步兵第78联队大佐联队长。1936年4月任广岛幼年军校校长，1937年3月晋升陆军少将，8月任陆军通信学校校长。1939年3月晋升为中将并任独立混成第四旅团长。驻防山西阳泉，守备 正太铁路。1940年2月任第十八步兵师团长。授予 勋一等旭日大绶章，1941-1942年任军队通信训练总监。他还在关东军当情报参谋的时候，就弄出了可以在一公里的距离上探测苏联军用电话线的微弱电流来窃听苏军电话的装置，使得很长一段时间内，日本关东军都一直能够自由偷听苏联红军的来往电话。在任哈尔滨特务机关长之时，一直在监听破译苏联陆军密码；1934年左右，破译苏联红军密码成功，1941年又破译了苏联空军密码，颇具成就。

1942年5月任驻拉包尔的第十七军司令。当时他手下只有三个联队规模的支队，大本营 辻政信中佐假传命令要他占领新喀里多尼亚、斐济和萨摩亚等岛屿上的战略要点以及 莫尔兹比港，他手下的南海支队6000人在堀井富太郎少将率领下翻越了天险斯坦利山脉，向莫尔兹比港进攻。但美军出人意料的夺占瓜岛，并且战斗规模升级了，他的任务复杂化了。他受命把美国人赶出瓜岛，他到了拉包儿以后就从瓜岛召回了先期上岛的川口清健，一听川口的汇报就火了——这不是一个典型的失败主义者嘛。什么饥饿，疲惫，地形，敌兵火力强大，全是为失败在找借口，皇军面前有困难？皇军面前有敌人？想到岛上还有这个胆小鬼的部下算是没当场炒川口的鱿鱼。但是那位主张要全军登岛，起码要 第二师团和第38师团一起上，而且还要有五个野战重炮联队参战的17军参谋长二见秋三郎少将就立即被解职编入了预备役。对继任参谋长 宫崎周一他也不信任，把他扔在腊包儿判读航空照片，自己带队上了岛。结果他上岛第一天就知道了问题的严重性，因为补给断绝，已经在岛上的日本官兵都饿的像鬼一样，连他的盒饭都被偷走了，他冒险发动的总攻大败，由于受制于补给不足和美军的空中优势，所部不得不于1943年2月从爪达尔卡纳尔撤退。结果大本营立即成立 安达二十三的第18军专门负责瓜所罗门群岛方面的指挥，他的17军司令部被调回，专门负责新几内亚方向，统归新成立的第8方面军 今村均大将指挥。百武估计自己部队有5000人战死，15000人饿死或病死。他在绝望中告诉今村，“军史上从没有这样的事例，一个损失了2万名士兵的司令官，必须由另一个地区的司令官来把他救出。在我把1万名士兵带到安全地带之前，我忍受耻辱，苟且偷生的活着。”百武想要自杀，但今村阻止了他，今村说，总有一天，我们会把17军所做的牺牲详细记录下来 。

1943年6月30日，损失严重的第17军遭到从新乔治亚群岛的伦多瓦登陆美军的突然袭击。1944年3月对布干维尔岛奥古斯塔皇后湾特洛基纳要地的美军发动残酷反攻受阻。1945年2月，百武晴吉病重，被解除职务，但因盟军海空封锁，他无法被送回日本治疗，只能就地在日军第17军总部所在地布干维尔岛南部的布因，择地卧床治疗，名义上担任第八方面军附之职。日后今村均说他一辈子做的最后悔的一件事就是阻止了百武中将自杀，百武以后一直卧床不起，所以今村均看到百武晴吉生不如死的情形以后觉得不如当时让他自杀对他或许是一种解脱。战争结束后1946年返回日本，1947年3月10日因精神错乱而死去。