1788年8月2日出生于德意志的 格丁根一名门之家。父祖两代都学习医学和化学，曾担任过各地的大学教授。早年求学于蒂宾根和海德堡，学习化学和医学，1812年获得医学博士学位。1814年他在 海德堡大学任讲师，1817—1851年任教授，同时在海德堡的化学教学实验室工作。所培养出来的学生很多已成著名化学家， 弗里德里希·维勒、赫尔曼·柯普、海因利希·威尔和英国的 亚历山大·威廉·威廉姆逊等人就是其中的一部分。他以对氰化物的研究和在分析化学方面的成就而著名。1822年发现了 亚铁氰化钾、1824年发现了 牛磺酸、1825年发现了克酮酸和玫棕酸，后来又先后发现了 血红素和 胰酶。1826年，他与德国生理学家F·梯德曼合作，引入了酯和酮的名称。

格梅林写有很多学术专著，以1817－1819年所著的2卷本《理论化学指南》最为闻名。此书内容丰富，收集了化学领域中广泛的问题，引用了恰当的事实，按元素和化合物分类，将化合物分为有机物和无机物；并附有合适的参考书目。由于此书是重要的化学工具书，所以后人继续了这项有意义的工作，增添了新的内容，多次再版和改名。在1924年发行第8版时，已成为驰名国际科学界的《格梅林无机化学手册》。1843－1855年间，更扩充为6卷本，直到目前仍在继续出版。1853年4月13日在海德堡去世，终年64岁。