14岁考入上海南洋公学,后去日本勤工俭学,就读于东京英语专科学校。毕业成绩优良,为以后从事英语教育打下了坚实基础。

回国后先后在广西梧州中学、江苏无锡中学、上海浦东中学和民立中学任教。民国元年(1912年),与学者胡敦复、吴在渊、朱得晚、胡刚复、曹惠群等成立立达学社。同年在南车站路创办大同学院,平海澜任教务长并教授英文、外国史等课程。学院初创时经费困难,平海澜等教师慨然将兼职收入贴补学院,使学院得以勉强维持。

民国5年,平海澜入商务印书馆编译所兼《英文杂志》主编。业余编写《英汉模范字典》,出版后深受欢迎。民国11年,平海澜在蓬莱路独力创办海澜英文专门学校,聘请邹韬奋、林汉达、林语堂等名家任教,还聘请外籍教师、归国华侨教英语会话,率先教授国际音标。民国19年海澜英专停办,并入大同大学,平海澜为大同大学教授并兼任中学部主任。

抗战爆发后不久，投身大同大学迁建复校工作。其间，坚决抵制了日伪方面的威逼利诱，保持民族气节。抗战胜利后，平海澜同情学生运动，常为被捕的进步学生奔走营救，设法保释。上海光复前夕，平海澜又积极投入护校工作，并接替胡刚复出任校长。解放后，先后当选为上海市人民代表、上海市政协常委、上海市哲学社会科学联合会副主席、上海市外文学会主席等。

平海澜英语造诣精深，被誉为“中国英语教学先师”。主要著作有《英语语法规范》、《科学观之英文法》、《英语文法》、《高级英语读本》、《国际音标发音字典》、《英语教师手册》等。编辑或与人合编的有《中国百科全书》、《英汉模范字典》等。