公元前364年夏,当时魏国的国君魏惠王将国都从安邑(今山西夏县)东迁至大梁,因此魏惠王也被称为‘梁惠王’,至魏襄王到魏王假的六代君主,以大梁作为魏王国的都城长达136年,也是魏国有时被记载为‘梁国’的原因。
魏王假三年(前225年)秦王政派遣王贲率军围大梁城,引鸿沟水灌大梁城,前后长达三个月,大梁城坏,魏王假无措开城出降,魏国灭亡,大梁城不复存在,秦朝以其地置开封县,汉朝为陈留郡地。大梁有时也作为开封地区的代称,例如五代时期,有人便将当时的首都开封城称为‘大梁’,北宋部分人也沿用这一习惯,将首都开封称为大梁,又将开封水系汴河与梁的古称结合,将开封称作‘汴梁’但都不是当时正式的地名。