常遇春成长时，乃是元朝末年，盗匪和起义军四起。少年时的常遇春勇武过人，但是家里穷，没有饭吃。为了生活，他不得不投奔绿林大盗刘聚。刘聚看常遇春勇猛过人，无人能敌，十分欢喜，将他当作心腹。常遇春也十分忠心，跟着刘聚四处拦路抢掠，入宅为盗，然后回到山寨中大碗喝酒，大口食肉，还能分些银两。
但是没过多久，常遇春厌倦了这样的生活，他发现刘聚只是一个强盗而已，此人只知打家劫舍、四处抢掠，并没有什么志向，于是暗中萌发了另寻出路的念想。
有一次，常遇春跟随刘聚去和州抢掠，正巧碰见朱元璋也率军攻和州。常遇春早就听人说过朱元璋这人仗义豪侠，志向高远，是个有作为的英雄，想要主动投靠，却又觉不妥，心想：也不知道这传说是否真实，万一传说有假，岂不糟糕？
想到此处，常遇春犹豫了，决定要好好考察考察朱元璋的行径，再做抉择。
第二天，他装成一个普通的老百姓入城，亲耳听到城中百姓对朱元璋赞不绝口，也亲眼见到了朱元璋的部队纪律严明，不祸害百姓，与一般的起义军完全不同，而且还亲眼目睹了朱元璋的平易近人，与士卒同甘共苦的作风。
经过再三的仔细观察，常遇春发现朱元璋真是个明主，这才率领十几个壮汉主动投靠。
如果按照电视剧的情节来说，朱元璋这时候应该是一个箭步上前，一一扶起众人，双手放在常遇春的肩膀上，深情地望着他，说道：“常兄弟，说得好，以后我们大家就是兄弟，走，我们一起喝酒去。”
说完，众人一番大笑，回去后开怀畅饮，一醉方休。但历史上朱元璋的态度却恰恰相反。
当时朱元璋只是冷冷地看了一下常遇春，问道：“你是不是没饭吃，挨了饿，想到我的队伍中混饭吃啊？”
常遇春见朱元璋态度冷淡，却不在意，朗声回答道：“我们在刘聚手下打家劫舍，并不愁吃穿。我们只是觉得刘聚这人胸无大志，只知抢掠和盗窃，跟着他成不了大事。我听说将军是位贤明智者，因此今日我们这才前来投奔，甘愿追随将军，誓死方休。”
朱元璋闻言后，还不为所动，又问道：“你能跟我过江打仗吗？”
常遇春坚定地回答道：“将军指到哪里，我愿打到哪里，渡江之日，愿为先锋。”
朱元璋见常遇春这人身材魁梧，体魄健壮，言语十分忠恳，知道他定是一员良将，心中大喜，便把他留了下来。从此以后，常遇春也信守诺言，追随朱元璋南征北战，为大明王朝立下了不朽的功勋，被封为了开平王，谥号忠武，配享太庙。这些都是后话了。