歷來青龍偃月刀的來歷有幾種說法，一說是關羽自己打造的，一說是為民間藝人所授，一說為天上青龍之化身，無論如何，因為關羽的緣故，已讓這把刀神化。
說是關羽自己打造的青龍偃月刀，主要流傳於民間。說是關羽一心想要打造一把自己稱手的兵器，於是就請來許多當地有名的鐵匠，斥巨資讓他們打造一把神兵。也不知道打壞了多少把，終於打造成功。這把刀剛剛打完的時候，天空中出現了一條青龍，從刀身射出一道毫光斬殺掉青龍，青龍附身於刀上，便稱其為青龍偃月刀。
根據《三國演義》描述，青龍偃月刀是關羽自己打造的。劉關張桃園三結義後，有一個富紳給劉備送來了一千斤鑌鐵，用來資助劉備起兵。劉備用這些鑌鐵材料打造士兵的兵器，關羽就因此而打造了一把大刀，因為刀身上有龍紋圖案，所以也稱它為青龍偃月刀。
由於《三國演義》這部作品在民間的地位很高，因此後人也把小說中的絕對正面人物關羽視為了神，由於關羽喜歡穿一身綠色的戰袍，戰鬥的時候宛如青龍再現，而關羽的兵器，青龍偃月刀也被視為關羽的附體，於是後人就有傳言道，稱關羽死後，神髓附於刀上，這也是後世將青龍偃月刀視為斬妖除魔的神器的原因。
因為關羽的原因，青龍偃月刀的來歷也被後世神化，人們賦予它不同的傳說，更使他增添了一道神秘的色彩。
青龍偃月刀傳說
關於青龍偃月刀傳說讓這把刀更富有傳奇性，也讓關羽因此名揚四海。像刀的主人關羽一樣，他們之間的故事常為後人所樂道，也賦予了這把刀神秘的色彩。
據說鍛造這把刀的人，是天下第一鐵匠，雖然姓名不見於史冊，但從刀的知名度而言，這必定是一個極不尋常的鐵匠。據說他只在月圓之夜鍛造這把刀，當他剛剛打造完這把刀的時候，忽然從天上下了一陣血雨。血雨只下了一陣，落在地上變成了血跡。人們數了地上的血跡後，發現總共有1780點。當地的術士推測這是青龍之血，因此便將這把刀命名為青龍偃月刀。據說，這把刀要飲滿1780個人的血，才肯罷休。果然，後來死於關羽之手的人，確實是1780個，其中有480人為斬首。
另一個關於青龍偃月刀傳說則更為神奇。據說關羽年輕時，力大無窮，武藝高強，想要讓人給他打造一把稱手的武器。於是他就把方圓數里之內有名的鐵匠都召集過來，告訴他們，他要打造一把世界上最好的大刀。鐵匠們告訴關羽，打造寶刀十分困難，打一百把，也不見得有一把能成功。關羽說，沒關係，所有費用都由他出，讓他們放心打造。
就在寶刀快要鍛造成功的時候，忽然從天上出現了一條龍。這個時候，從刀內忽然射出一道毫光，把龍給斬了。斬殺巨龍之後，刀上竟然出現了龍紋圖案，因此將其命名為青龍偃月刀。
青龍偃月刀的另一個名字
青龍偃月刀的另一個名字叫做「冷艷鋸」，和張飛的丈八蛇矛齊名，是《三國演義》中，武聖關羽所使用的武器，故後人又稱其為「關刀」或者「關王刀」。
根據《三國演義》中的描述，劉關張三兄弟在桃園結義後，有人送來了一千斤鑌鐵，以資助劉備等人起兵。劉備就讓人用這些鑌鐵打造兵器，關羽就打造了一把青龍偃月刀。據稱，此刀長九尺五寸，重八十二斤，又名「冷艷鋸」。
按照現代人的理解，鋸的意思，就是帶有齒刃的刀具，但是關羽的青龍偃月刀，並無鋸刃，又為何稱其為「鋸」呢?在古時，鋸的意思就是刑具，泛指用來殺戮、克敵的兵器，並非特指現代意義上的鋸子。古代鋸木頭、樹木不叫鋸，叫伐，因此現在才有伐木之稱。故而此處的鋸的意思，也可以指刀。
因為青龍偃月刀上繪有青龍圖案，刀身凜然，散發寒氣，故而稱其為「冷艷」。因此冷艷鋸的意思，用現在的話來解釋，就是寒氣森森的兵器。關羽是個熟讀《春秋》的人，他當然明白這把刀名的意義，所以又用冷艷鋸來稱呼青龍偃月刀。這是一把治亂世，懲惡人的刀具。
在後世的關廟中，常常可以見到關公的塑像旁邊，有一把青龍偃月刀，和關羽的美髯一樣，成為了關羽的象徵。手綽長髯，手握青龍偃月者，必關羽者也。因此，人們又把青龍偃月刀稱為「關刀」。