高乾回到魏都洛阳，在都城朝廷里夹在两派之间很难受，他猜不透高欢心思，进退两难，他不想再留在这个是非之地，于是偷偷写密信给高欢请求将他外派地方为官，高欢收到他的信后，就任命他为徐州刺史。
孝武帝元修获悉高乾要外任为官，害怕他泄露自己密谋杀高欢的事，就先发制人，诏告高欢说高乾与自己立过盟誓，是个反复两端的人。
高欢得知高乾与孝武帝盟约一事也很生气，为了试探就把高乾劝自己称帝的事告诉了元修，元修于是把高乾召至殿上质问。
事已至此，高乾真是百口莫辩，想脱身也是无计可施，于是被孝武帝元修赐死。为了斩草除根，孝武帝元修又派人去诛杀高乾之弟高敖曹。高敖曹得知这个消息后，派人在路上劫夺诛杀自己的敕令，带领十几个人奔赴晋阳投靠高欢。
两人见面后，高欢与他抱头痛哭，高乾另一个弟弟高慎也来投奔高欢。北魏永熙三年（534年），孝武帝元修准备率军攻伐驻扎在晋阳的高欢，下诏戒严，但对外却声称要讨伐南朝梁国。
元修又和斛斯椿征集河南诸州兵马，在洛阳近郊进行阅兵。为了麻痹高欢，他密诏给高欢说要带兵攻打关西的宇文泰和贺拔胜。高欢接到密诏后马上回复，说自己属下五路兵马共二十二万大军已经出发，助援皇帝征讨，并清除朝中奸佞。
孝武帝元修此时不得不和高欢正式决裂，他令中书舍人温子升以自己名义给高欢写了一封书信。温子升不想帮他写，元修勃然大怒，拔出剑来硬逼着他替自己写。
在书信中，把皇帝一番忧虑恐惧无奈之情、不甘向臣子示弱、又对高欢晓以大义、要他顾念亲情。表面上贬损自己，实际上是威胁对方的心迹都披露无疑。高欢看信后丝毫不为所动，只是继续不断地上表极言斛斯椿等人的罪恶，前后上表达数十次，但是推兵前进不停歇。
孝武帝的亲信武将军王思政劝皇帝避高欢兵锋，前往关中依附宇文泰。于是孝武帝元修进封宇文泰为关西大行台、尚书左仆射，又将自己的妹妹迎阳公主赐以宇文泰为妻，以此来笼络他。
元修又下诏宣示高欢的罪恶，派兵讨伐高欢。高欢以高敖曹为先锋，攻打宇文泰。宇文泰也发檄文在各地声讨高欢罪恶，从高平出发到弘农屯军。另一名将领贺拔胜则屯军汝水，宇文泰和贺拔胜两人都按兵不动，观望待变。
同年七月，孝武帝元修亲率十万军队屯兵于河桥，以斛斯椿为前驱列阵于邙山之北。在关中附近的宇文泰听到风声，就对左右讲：“高欢数日内急行军八、九百里，疲军迎敌，是兵家大忌，正好乘其疲惫奇袭。当今皇上以万乘之尊御驾亲征，不主动出击渡河决战，反而沿河据守，很是失策。而且长河万里，只要一个地方被突破，必败无疑。”
两军未交锋，孝武帝元修一方已有贾智、田怙等人暗中联系高欢相约向他投降，高欢很快就率军渡河。孝武帝元修慌忙召集众臣商议对策，众口纷纷，不能定夺。
朝臣元斌之为了与斛斯椿争权，从军中跑至孝武帝元修处，欺骗元修说高欢军队已经逼近。孝武帝元修又惊又急，一面派人召斛斯椿还军，一面带着几个宗亲王爷率五千兵马准备出逃。
高敖曹为兄高乾报仇心切，率劲骑追赶孝武帝元修一直到关中。孝武帝元修一路饥渴困顿，缺粮少食，最后在长安东阳驿站遇见率兵迎驾的宇文泰，元修于是就投奔了他。
高欢自晋阳发兵以来，给元修上了四十多封奏表，都没有收到答复。他还亲自率兵追赶孝武帝元修，可惜最终没有实现此愿迎回元修。
元修逃到宇文泰那里后，高欢任命清河王元亶为大司马，全权处理国家政务，预备立他为帝。
元亶很显然是个脑子不好使的人，他还没正式即位，就“出入已称警跸”，对着其他人提前摆起了皇帝架子，而且刚愎自用，唯我独尊。高欢很嫌弃元亶这副狂妄作派，就打算把元亶赶下台，并准备改立他儿子为帝。
高欢回到洛阳后，最终改立清河王世子元善见为帝，是为孝静帝，时年十一岁。立年号为太平。自此以后，高欢正式成为把持朝政，控制整个朝廷的大权臣。
他将自己的亲信都任用为朝廷的要职，不过他有别于尔朱荣，不会用人唯亲，而是在任用亲信时，也注重个人的才能，不至于让朝政一塌糊涂。
高欢本人也是个勤政的人，皇帝年幼，一应大事都经过他的决策才会落实，因此他也是非常忙碌，新政府的成立，新人事的任命，令他大伤脑筋。
为了更好的掌控朝政，高欢任命自己的死党司马子如为尚书左仆射，高隆之为右仆射，高岳为侍中。
而高欢也从一个穷小兵跃升为北魏皇朝的实际操控人，小皇帝只不过是他的傀儡，做做样子而已。