林苍祐于 1919年 5月28日出生在英属 海峡殖民地 槟城，父亲 林萃龙是医生， 1937年被授予太平局绅；母亲为 谢瑞云。其家庭祖籍为 中国 福建 同安 厦门，后来移民至 新加坡，在 林萃龙时搬至 槟城。林苍佑为家庭中第二个小孩，有一个姐姐与许多弟妹。

林苍祐就读于哈珍学校（Penang Hutching School），后来升上槟城大英义学（Penang Free School），他于 1937年获得英国皇家奖学金（King’s Scholar）。 1944年，他于 英国 苏格兰 爱丁堡大学获得外科医学学位。

在毕业之后，他到了 中国，任职中华民国海军总部医务处长兼任中华民国国防部部长 陈诚的私人医生。他在中国也认识了吴欣燕，他们于 1947年在 香港结婚。之后他们回到槟城。

他于 1951年开始参与政治，被任命为槟城殖民地议员（Penang Local Council），并在同年 6月19日与其他发起人创建槟城急进党（Penang Radical Party），并担任副主席一职。 1953年，他成为槟城急进党党主席。他也于 1953年参选市政局的议员，但是并没有当选。 1954年，林苍佑决心与 马来西亚华人公会合作，并于 1954年 6月27日将槟城急进党改名为“急进党”，并以个人名义加入 马华公会。 1955年，他赢得选举成为槟州立法议会的议员之一，并为联盟首席议员（Federal Legislature）。

1958年 3月23日的 马华公会党内选举中，林苍佑挑战原任总会长 陈祯禄，以89对67票的22票优势赢得总会长的职务。

1958年3月23日，他在马华党选中挑战创党人陈祯禄。以89票对67票击败陈祯禄荣任第二任马华总会长。他锐意改革马华却遇党内外重重阻力，更因争取华人议席之分而与巫统闹翻，进一步激化马华党内的斗争，演变成陈祯禄父子与林苍佑派的对峙，最终林苍佑派以失败而离开马华。1961年离开了马华公会，林苍佑在同年（1961年）在芙蓉创建民主联合党。由于陈世英等人的加盟，民主联合党间接成为芙蓉市议会的执政党。1963年林苍佑与民联党闹分裂，只得撤回槟城。1964年民联党参加全国大选，仅林苍佑一人当选国会议员，其他当选州议员都是在他的国会选区或边周地带胜出。1968年林苍佑率领民联党加入了新成立的民政党，竟而在1969年的大选中跃居以反对党身份成为槟州执政党。当上槟州首席部长。1972年，在经历513种族暴乱后，民政与联盟（巫统）组槟州联合政府。1974年林苍佑率领民政党加入国阵，并在往后的大选又再胜出。1990年大选，林苍佑以八百多张票败在 林吉祥手中，从此退出政坛。为了表扬林苍佑对槟州政经所带来的贡献，马来西亚统治者册封他为敦。英国爱丁堡大学后来对这位杰出校友也授予荣誉博士。