宋朝龚圣与在《宋江三十六人赞》中写道：“大刀关胜，岂云长孙？云长义勇，汝其后昆！”说的是已存在关羽用大刀的形象，经过平话艺术人的塑造后，也才酝酿出后来的青龙偃月形象。后来《水浒传》的大刀关胜，就是根据关羽形象而来。而在《三国志平话》中，关羽也是用刀参加“三英战吕布”的：“第三日，吕布又搦战，众诸侯出寨，与品布对阵。张飞出马持枪。张飞与吕布交战二十合，不分胜败。关公忿怒，纵马轮刀，二将战吕布。先主不忍，使双股剑，三骑战吕布，大败走，西北上虎牢关。”
事实上，关羽是否用刀作战一直是个疑问，《三国志》上说：“曹公使张辽及关羽为先锋，羽望见良麾盖，策马刺良于万众之中，斩其首还。”陈寿的一个“刺”让人有了诸多的疑问，如果是刀，应是“劈”“砍”等说法。
汉末时，虽已有骑马用刀作战者，但他们用的均是一种短兵器——环首刀。战场上厮杀，“环首刀”这种专门用于砍劈的单刃厚背的短兵器，极具构造上的优势。三国时，各国军队大量生产过环首刀，并使用了两汉以来如炒钢、百炼钢、淬火等钢铁生产技术。《太平御览蒲元传》记载，三国时的诸葛亮曾命“蒲元”这个人造刀，蒲元在斜谷开工，为了造出好刀，还特地指定要使用蜀江江水来为刀刃淬火，所造的三千口刀非常精良，被称为“神刀”。南朝梁陶弘景在《刀剑录》中描述，孙权在黄武五年（226年）造剑十口、刀万口，从这可看出，剑在这时已成为玩赏用兵器，而刀则为士卒实战的兵器，所以一造就是以万来计算。如果关羽有用刀，应是此种短兵器才对。
那么为什么后人一定要给关羽安插一把青龙偃月刀呢？北京大学博士杨自然：“清朝的时候，追封给一个关帝君，是二十六个字的封号，所以民间一般看法认为，一个了不起的武圣，你必然有一件称手的兵器是不是？所以的话可能因为青龙偃月刀的形制看起来非常霸道，配合历史上一些传说，可能也对明星这个效果也更为显着，所以我想应该是从清朝开始，关羽配这个青龙偃月刀才变成一个定制。”如此说来，后人之所以特意为关公配备一把超越时空的青龙偃月刀，是为了要塑造关公的威武形象。被封为武圣的关公的形象，确实在后人的眼中是“高大全”的，人们为了表达对关公的崇敬之情而特意琢磨出了“青龙偃月刀”这样的说法，确实也不难理解。