没有人知道武林是什么时候出现的，就像没有人知道江湖是什么时候形成的一样。有人说过，人就是江湖，有人的地方就有江湖，也许，这人就是江湖出现的原因吧。
但是可以明显得知的是，唐朝以前是没有江湖的，换句话说，那时候并没有什么武林人士，有的只是侠客而已。
相对武林而言，侠客的出现就非常早了，早在战国时期，韩非子就在自己的论著中提到“儒以文乱法，而侠以武犯禁”，这时候就可以看出侠客对于社会的影响非常大了，已经达到能够与儒生相提并论的地位。而后来司马迁在《史记》中也特别为侠客做传，是为《史记·游侠列传》。
直到唐朝以前，侠客们还处于一盘散沙之中，大家独来独往，互相之间也只是偶有联系，没有形成大范围的社会关系。而且早期的侠客们实际上还过着不为人们所承认的尴尬生活，随着君王专制的发展，这些以武力行使道义的人，越来越被政府所深恶痛绝。
不过历史却一直在为侠客们创造机会。自秦汉后，中国跨入了一个庞大的分裂时期，分裂带来的自然是社会的不稳定性与人民的不安全感，这时候下层人民对于能够给自己带来安全的侠客也越来越期待。
特别是隋朝末年，随着官匪横行，大量侠客也相应出现。渐渐的，侠客们按照地域不同划分出不同派别，这在《说唐》中可以看到许多介绍。中国的武林制度就此开始萌芽。
