马全义，幽州蓟县人。十多岁学击剑，擅长骑射。十五岁，隶属于魏国大将范延光部下。延光背叛，后晋太祖石敬塘去讨伐他，举城投降，交出所部的军队。全义也在其中，因此补入禁军中。因为不得志，因此逃走了。后汉乾祐年间，李守贞镇守河中，征召全义到其帐下。等到守贞反叛，周祖郭威讨伐他，全义经常率领敢死队，夜间出来进攻周祖的营垒，***伤很多。守贞贪婪而且没有谋略，性情比较嫉妒，全义经常替他出谋画策，都不采用。城被攻陷，因而改名换姓逃亡。 后周广顺初年，周世宗柴荣镇守澶渊，全义前往侍奉他。跟随世宗柴荣入朝，周祖郭威召见他，增补为殿前指挥使，郭威对左右说：「这人忠于所做的事，以前在河中，经中挫败我军，你们要向他学习。」世宗柴荣即位，升为右番行首。跟随世宗攻打高平，因功升为散员指挥使。跟随世宗征讨淮南，因功升为殿前指挥使、右番都虞候。恭帝即位后，被授予官职铁骑左第二军都校，并兼任播州刺史。