为了便于出入宫中，武则天还将他剃度为僧，法名怀义，又让冯小宝改姓为薛，使他与女婿薛绍合族，令薛绍尊之为季父。这么一来，僧怀义便能与洛阳大德僧法明、处一、惠俨、□行、感德、感知、静轨、宣静等经常出入内道场，成为武则天的亲信。怀义经常乘马出入宫中，诸武与朝贵无不匍匐礼谒，唯恐得罪怀义。

当时名义上的皇帝是唐睿宗李旦，权力则在临朝听政的武则天手中。唐高祖、唐太宗、唐高宗虽然崇佛，但因李唐皇室自称是道教始祖老子的后代，所以仍将道教放在首位。武则天要取代李唐，自然要改变这种状况，借佛教为她制造舆论。僧怀义对此自然是心领神会，积极配合。垂拱(685-688年)初，亦即武则天临朝决事的第二三年，僧怀义便建议重修白马寺，得到武则天的支持，僧怀义亲自监修，寺成后便为寺主。僧怀义又改建建春门敬爱寺，改名为佛授记寺。 垂拱二年(686年)，武则天以僧怀义有巧思，常令他入宫主持土木营造。垂拱四年(688年)，武则天毁乾元殿以修建明堂，由僧怀义督工。明堂大屋凡三层，高30丈，动用民工数万人。拖一根巨木，大约就要千人。怀义想出置“号头”的点子，号头一吼，千人齐和，步调一致。明堂建成后，怀义又在明堂北起一座“天堂”，规模略小于明堂，内中建一大像，其小指犹容数十人，真可谓规模空前。

怀义因修明堂之功，拜左威卫大将军、梁国公。永昌元年(689年)，五月，突厥默啜部犯边，武则天任命怀义为清平道大总管，率师反击，默啜退避，怀义带兵进至单于台，刻石纪功而还。怀义因此加辅国大将军称号，改封鄂国公，并授以柱国勋阶，赐帛2000段。这一年九月，武则天又命怀义率20万大军讨伐突厥骨笃禄。战绩如何，不得而知。

天授元年(690年)七月，怀义与法明等撰《大云经疏》利用《大方等无想大云经》中“有一天女，名曰净光。……当王国土，得转轮王”、“尔时诸臣即奉此女以继王嗣。女既承正，威伏天下！阎浮提(按指人世间)中所有国土，悉来奉承，无违拒者”的说法，将它附会为“佛”对武则天当女皇的“授记”，亦即预言。有了“佛”的“授记”，武则天就自然可以堂而皇之做皇帝。于是乎武则天便把《大云经》颁於天下，令两京与诸州各置大云寺一座，寺各藏《大云经》一本，由僧升高座讲解。使天下咸知武则天是弥勒下生，应该取代李唐当皇帝。一阵紧锣密鼓之后，武则天便于这一年九月正式称帝，改国号为周。第二年(691年)四月，武则天又颁令“以释教开革命之阶，升於道教之上”。怀义、法明等搬出的《大云经》与他们撰写的《大云经疏》对于武则天改朝换代的作用，由此可见。

延载元年(694年)二三月，武则天又以怀义为代北道行军大总管，讨默啜，旋又改为朔方道行军大总管，以内史(宰相)李昭德为行军长史，以凤阁侍郎同凤阁鸾台平章事(亦为宰相)苏味道为行军司马，统率契苾明、曹仁师、沙吒忠义等18将军，讨默啜。同年五月，武则天以前宰相王孝杰为瀚海道行军总管，“仍受朔方道行军大总管薛怀义节度”，至第二年元月，武则天以王孝杰为朔方道行军总管，僧怀义始罢军职。 武则天称帝前后，武则天对僧怀义是非常信任的，故屡次任命他为节制一方的统帅，而让众将相为其下属。怀义受此宠遇，更加得意忘形，目空一切。宰相李昭德为其行军长史时，竟因与怀义意见不合而受怀义箠挞。怀义于白马寺度力士千人为僧，侍御史周矩疑其有异谋，固请召怀义审问，怀义乘马至御史台，坦腹于床，待周矩将召吏按问，怀义便跃马而去。周矩向武则天报告事情经过，武则天虽然袒护怀义，但还是让周矩将怀义所度僧全部流放远州。天册万岁元年(695年)，天堂、明堂失火，传言是怀义放火，但武则天仍任命怀义主持重修工程。怀义更加骄横，出言不逊。武则天便密选宫女有气力者百余人以防备怀义，旋又诱杀怀义于宫中，送尸白马寺，焚以造塔。

平心而论，僧怀义还是有一定才干的。他组织明堂浩大工程，基本上还能做到有条不紊。故后人也只是批评他劳民伤财，而不说他瞎指挥。怀义屡次带兵打仗，虽然史书没记载他立过什么战功，但也没说他打过败仗。怀义对于武则天的称帝，也确曾有过大功。他的结局与其说是因他有异谋而犯忌或年久宠移，倒不如说是“狡兔死，走狗烹”，被武则天利用之后终遭抛弃。与怀义之死大体同时，武则天宠信的众酷吏也相继就诛，这不能说是巧合。当然，就怀义个人而言，他骄横不法，也是死有余辜。