1949年11月21日遵义解放后，人民政府清理了1935年初在遵义战役中牺牲的红军烈士遗骸，先后找到了19位佚名烈士。1957年，国防部长彭德怀致函贵州省委，提请务必找到他的亲密战友邓萍的遗骸，经省、地、市党政军的共同努力，1958年终于在松子坎找到了。同年，市政府即报请上级批示兴建“遵义市红军烈士陵园”。【省人委（58）省计史字第719号通知】同意在遵义市修建和纪念碑，并拨款30万元，遂于1958年9月动工兴建。

当时市政府划定陵园范围为103亩。按照规划，始建盘山车道和289步石阶（后经改建为316步），由湘江边的公路直通陵园的纪念活动坪场。陵园正中，用遵义的红砂石为邓萍建造一座墓室。上述工程于次年初竣工，清明节专门举行了隆重的迁葬仪式，将盛有邓萍遗骨的棺木安埋在小龙山石砌墓室内，同时亦将找到的其他红军烈士遗骨迁葬此地，群众见此情景，自发地称之为“红军山”，实为“红军烈士陵园”。市政府为此批准设立了陵园管理所。