民国初年，出身淮军系统的北洋军成为当时中国最精锐的军队。以这支军队为基础，北洋军阀叱咤风云十数年，直到败亡。北洋时代结束后，南京国民政府走上历史舞台，然而不久红色根据地在全国开始建立。在苏区，除了正规红军，也有不少民兵武装，如赤卫队。赤卫队出身贫苦农民，平时务农，战时负责掩护和支援主力红军。在红军兵源紧缺时，赤卫队也会转入正规红军。
到了抗战时期，在敌后抗日根据地开展的是人民战争，这一时期，踊跃参战的民兵登上了舞台。
当时根据地内武装结构大致是这样的：正规军—地方军—民兵。实际上除了正牌八路，诸如县大队、区小队之类的地方军主干也是由民兵组成的。在影视剧亮剑打平安县城一节中。执行阻击日军任务的一支部队即为区小队，他们用土炮来阻击日军野战联队的场景至今让人难忘。
而在攻城部队中也有不少是民兵，要不说咱老李一个团账面上怎会冒出一万多人的员额。其实根据地的民兵几乎参加了所有的对日作战行动。
民兵们虽然战斗经验和素质不能与日军相比，但他们有极高的斗争热情和意志，而且由于土生土长，因此相对侵略者而言更加熟悉地理环境。所以，这些拿起武器的民兵不光充当主力部队的斥候，而且还往往给日军不小的打击。
屡受打击的日军自然对这些抵抗武装恨之入骨，不时以大扫荡来进行报复和屠杀。但民兵可不是好欺负的，在有力地领导下，他们也以诸如麻雀战、地道战、地雷战之类灵活的形式对日军展开反击。
地道战是每一个中国人都耳熟能详的名词，当时为防鬼子扫荡，冀中平原形成了房连房、街连街、村连村的地道网。
