1927年冯玉祥将军任国民军第二集团军总司令兼河南省主席第二次主豫。总司令部驻在郑州美华医院(现今市第三人民医院处)。他大力推行新政在郑州进行了不少新项目建设。委刘治洲任处长(后改为市长)筹办市政实施九件建设中择址火车站东边、大同路西叉口处兴建“国民革命军北伐阵亡将士纪念碑”就是其中一项。
第二集团军司令部总政治部宣传处李世军副处长出面于民国16年(1927年)12月在敦睦路总部会议室召集郑州市政府、市党部、市公安局及各界代表20余人讨论议定建造北伐阵亡将士纪念碑事宜。会上决定除总部出部分资金外向社会各界发起募捐聘请有名的工程技术人员进行设计绘图交市政府组织施工。之后收到捐助款一万四千多元。民国17年春(1928年)开工兴建至六七月间工程告竣。
国民革命军北伐阵亡将士纪念碑高约10丈(1丈为10尺)碑身下大上小、四面呈梯形下宽约丈余顶略尖。碑座高约8尺东面有台阶数层可步其上观瞻碑文。碑体用砖砌成水泥封面通体为碧血色。碑东面镌刻着“国民革命军北伐阵亡将士纪念碑” 深红色隶书大字浑厚朴雅、格局大方。其余三面各在碑体下部镶嵌着三块青石碑镌刻有革命箴言下面排列刻有阵亡将士们的军阶、籍贯、姓名等。期间经鹿钟麟(1928年3月任冯玉祥第二集团军北路军总司令)建议又于碑下围增建一阅书室由市政府派员管理。纪念碑开放时受到民众的热烈欢迎来瞻仰参观纪念碑的市民和游客络绎不绝。此举深受郑州民众的好评和赞赏。
随着历史的变迁几经沧桑北伐阵亡将士纪念碑虽然不存在了但人们心中却留下一座丰碑。