河清三年(564年)十二月,邙山之战时,北周攻打洛阳,武成帝高湛派高长恭与并州刺史段韶、大将军斛律光前往洛阳救援,因为惧怕北周的兵力强大,不敢前进。段韶利用谋略打败北周军队,高长恭带领五百名骑兵冲进北周军队的包围圈,到了金墉(今河南洛阳东北故城)城下,因为高长恭戴着头盔,城中的人不确定是敌军或是我军,直到高长恭把头盔脱下来让大家看到他的面貌,城上的人才派弓箭手开始放箭保护他,之后高长恭成功替金墉解围,北周军队最后放弃营帐逃走,从邙山到谷水的三十里间的川泽之地,都是北周丢弃的兵器辎重。高长恭在此次场战役中威名大振,士兵们为此次战役而讴歌他,即后来知名的《兰陵王入阵曲》。同年十二月十五日,高长恭被任命为尚书令。