他进入大学后，在抗日爱国思想激励下，参加中国共产党领导的南京市学生救国会，从事地下革命活动。抗日战争全面爆发，中央大学迁往重庆，1938年5月毅然参加中国共产党，郑重选择了人生的方向。1939年任党支部书记，毕业前夕，在中央大学有的进步同学遭到国民党反动派的逮捕，党组织为防不测，通知陈元晖去延安。

　　陈元晖于1940年到达革命圣地延安后，先被分配到青年工作委员会宣传部，编辑《中国青年》杂志。不久专任《中国青年运动史》编辑。1941年延安成立中央研究院，组织决定他到中央研究院的教育研究室从事研究工作。1942年中央党校成立，中央研究院改为中央党校第三部。陈元晖随之在中央党校第三部第五支部学习与研究。

　　1945年抗战胜利后，陈元晖随党校校部队伍转赴东北，1946年11月抵达哈尔滨，被分配到东北行政委员会教育委员会任秘书，1947年成立哈尔滨大学，车向忱校长调陈元晖任副教务长并兼任教育系主任和实验小学校长。他亲自给教育系学生讲授教育学课。

　　1949年，陈元晖调入东北师范大学前身东北大学，任教育问题研究室副主任，兼图书馆馆长。在研究室工作期间，组织有关人员学习教育学理论，整理中国教育史资料，为后来教育系的建立和教材建设创造了条件。

　　1951年，东北师大成立教育系，陈元晖任系主任。在筹建过程中他提出：“先办好中学，才能办好大学的教育系。”校长采纳了他的意见，先任命他为附中校长，全面负责附中的筹建工作。在附中教师队伍建设中，他十分重视教育理论的学习，他曾提出：“附中教师应当是教育家，不要做教书匠。”要求教师既要有先进教育理论指导，又要有创造精神。他曾多次为全校教师和干部做学习辅导报告。为附中后续发展打下了良好基础，因此，在他80寿辰时附中师生送给他的条幅写道：“创建附中，功在百世”。在创建教育系的过程中，同样体现着他的教育理念。首先要有先进教育理论的引导，高素质教师队伍的建立。在当时条件下，首先组织老教师学习新的教育思想，同时着力选拔与培养青年教师。为此，他亲自主讲教育学课。积极创办研究生班，为补充青年教师创造条件。在研究生班和本科的教学中，都特别重视基础学科，在教育学科的学习中，要求首先学好教育学、心理学和教育史的理论和相关知识。基础科学好了，其它课程才能学好。在教学与学习中，强调理论与实际相结合，继承与创新相统一。倡导科学、严谨的教风与学风。为东北师大教育系的创立与发展，做出了重要贡献。

　　陈元晖于1954年调北京人民教育出版社，任教育编辑室主任。中央教育研究所成立后，参加教育史组研究。1961年成立高等学校文科教材机构，他任教育组组长，主编《中国现代教育史》。1964年，调到中国社会科学院哲学研究所任研究员。“文革”期间，被扣上“资产阶级反动学术权威”的帽子。1970年，也曾到河南信阳“五·七”干校劳动改造，1971年返京。1981年，受国务院学位委员会学科（教育）评议组成员。1982年，主持筹建中国社会心理学会，任第一任会长，兼任《社会心理研究》主编。1983年，国务院批准为中国社会科学院博士生导师。同年离休后，以更高的热情，一面从事学术研究，一面培养博士生。

　　陈元晖同志于1995年10月3日，在北京病逝，享年82岁。

　　著有《实用主义教育学批判》、《论冯特》、《中国现代教育史》等。

　　陈元晖是心理学家、哲学家、教育家。他倡议建立心理人类学分支学科，对古今人物的记忆、思维、情感、意志等心理活动的异同进行比较研究，并探索其在表现上的历史发展线索。重视社会心理学在人类学上的应用。主要论著有：《实用主义教育学批判》（1956）、《皮亚杰论儿童的逻辑思维》（1960）、《心理学的方法学》（1960）、《马赫主义批判》（1963）、《近代资产阶级的社会心理学》（1965）、《论冯特》（1979）、《中国现代教育史》（1979）、《王国维与叔本华哲学》（1981）、《中国古代的书院制度》（1981）、《社会心理学丛书》（主编，1985）、《中国教育学史遗稿》（2001年出版）等。