龙泉宝剑有着悠久历史。相传它创始在两千多年前的春秋战国时代。当时较好的炼剑大师欧冶子云游江南各省，当他到达浙江龙泉时，发现秦溪山下，有一泓湖水，甘寒清洌，湖边有七口井，恰似天空北斗星座：用湖水淬剑，能增强剑的刚度，正是铸剑的好地方！
欧冶子就在湖边支起炉灶，用附近山中铁英铸成"龙渊"、"泰阿"雌雄宝剑。剑成，竟双双飞去。从此，铸剑地改名为"龙渊"。唐朝时因避高祖李渊讳，改为龙泉。后来人们又将秦溪山湖改名为剑池湖，并在山北麓建立欧冶子庙，还编造了不少关于龙泉宝剑的故事。
据《晋书·张华传》记载，晋惠帝时，广武侯张华见斗牛之间有紫气，后听说豫章（在今江西省）人雷焕通晓纬象，乃召问之，焕曰："宝剑之精上彻于天耳。"张华问剑在何处？雷焕答："在丰城（今江西省南昌之南）"。于是补雷焕为丰城县令，令其寻找。焕到县，掘狱屋基得一石函，中有双剑，并有刻题，一曰龙泉，二曰泰阿，精芒炫目。当晚，再观斗牛，紫气俱消。雷焕送一剑给张华，留一剑自佩。张华得剑给雷焕复信道："详观剑文，乃干将也；莫邪何复不至？虽然，天生神物，终当合耳。"后来张华被朝廷所杀，剑亦不知去向。雷焕死后，其子携剑过延平津，剑忽跃出堕水，当即下水寻找，不见剑，但见二龙蟠萦，水浪惊沸。以上这段富有神话色彩的故事，说明龙泉宝剑名气之大。
我国唐代伟大诗人李白在他的《在水军宴赠幕府诸侍御》一诗中曾写了"宁知草间人，腰下有龙泉"的诗句。在这里，龙泉成了"宝剑"的代称。唐朝另一位诗人郭震任通泉尉时，武则天召见他，要看他写的文章，他呈上歌颂龙泉的《宝剑篇》，全诗如下：
君不见昆吾铁冶飞炎烟，红光紫气俱赫然。良工咨嗟叹奇绝。琉璃玉匣吐莲光，错镂金环映日月。正逢天下无风尘，幸得周防君子身。精光黯黯青蛇色，文章片片绿龟鳞。非直结交游侠子，亦曾亲近英雄人。何言中路遭弃捐，零落漂沦古狱边。虽复尘埋无所用，犹能夜夜气冲天。