蒋维平在八路军中的表现，让他成为了部队中的“神医”。他的医术高超，不仅能够治疗常规的伤势，就连一些疑难杂症也能手到病除。因此，战士们都说：“只要有蒋医生在，我们就能安心打仗。”

1942年，蒋维平被调到王震将军的三五九旅服役。在进驻南泥湾开展生产建设工作时，已是64岁高龄的蒋维平，不仅每次都身先士卒地和年轻的战士们共同劳动，还领导所在农场创下了全旅创收成绩第一。他本人也在1943年，被授予“劳动模范”的光荣称号。

在南泥湾期间，蒋维平凭借自身的医学知识，解决了部队缺医少药的困境，使部队的医疗条件得到了提升，重伤员的存活率也大大提高。抗战胜利后，蒋维平担任晋察冀军区卫生队队长，负责在后方照顾伤员。

解放战争开始后，蒋维平以古稀之年的高龄向中央军委递交请战书，来到前线担任白求恩国际和平医院晋察冀分院院长。他以高超的医术从死神手里挽救回来不少年轻的战士，有效保存了我军的有生力量。

1955年全军大授衔之际，已经七十有余的蒋维平因为对革命的突出贡献被授予中校军衔，他也是全军最年长的一位中校。但由于被授衔官兵在授衔仪式上都要严格遵循仪表管理规定，不得留过长的胡子，而蒋维平又不想剃掉留了一辈子的长胡须，便硬着头皮向上面打了报告，询问能不能留下胡须参加授衔仪式。报告层层上报，最后报到了毛主席那里，毛主席听闻哈哈大笑，并通过了蒋维平关于申请保留胡子的报告。于是，蒋维平便成为了1955年授衔中唯一一位保留胡须的受衔军人。

获得军衔之后，蒋维平并没有居功自傲，而是继续活跃在军队医疗一线，继续为人民军队的新生代医生们提供治疗指导。在他的眼里，挽救伤兵的生命就是自己的职责，多救回一个伤兵，就能多保存一份战斗的力量。多从死神手里夺回一个伤员的生命，就能多确保一个家庭的完整。

蒋维平一直秉持这样的信念，直到生命的最后一刻。1964年7月12日，蒋维平因病医治无效，病逝于解放军张家口251医院，享年86岁。