林冲定睛一看，只见那位汉子头戴范阳毡笠，上面还撒着一把红缨，身穿一件白布征衫，腰间系着一条纵线绦带，下面穿着青白相间的绑腿，紧抓着裤口。他脚穿獐皮袜和带毛的牛皮靴，腰间挂着腰刀，手里还提着一把朴刀。这汉子身材高大，约摸七尺五六的个头，面皮上有一大块青记，腮边微露出一些红色的胡须。他把毡笠掀在背上，敞开胸脯，头上扎着带角的软头巾，手里紧握朴刀，高声喝问道：“你这该死的强盗，把我的行李财帛藏到哪里去了？”
林冲本来就心情不好，哪里会回答他，只是瞪圆了双眼，倒竖起虎须般的眉毛，紧握朴刀冲上前去与那位大汉争斗。只见：残雪初晴的天空下，薄云刚刚散去；溪边的寒冰被他们踩得嘎嘎作响，岸畔涌动着两股杀气。两人一上一下地跃动，就像云中的龙在与水中的龙争斗；一往一来的攻防转换，又如同岩石下的虎在与林间的虎搏斗。一个像是擎天的白玉柱般坚稳有力；另一个则如架海的紫金梁般雄壮威武。两人的武艺都相当高强，在战斗中看不出明显的破绽和差距；但他们都展现出了千般威风和勇猛。一个竭尽全力向心窝猛戳；另一个则运用灵活的身手向对方的胁肋急刺。他们的招式架隔遮拦，就像三国时期的马超逢遇张飞一样激烈；而他们的点搠盘旋又仿佛唐朝的尉迟恭与秦琼在交战一般精彩。两人斗了半天也没有分出输赢；战了几个回合也未见胜负。这样的战斗场面确实是巧笔画也难以描绘出来的；即使是鬼神看了也会感到惊心动魄、胆颤心惊。
林冲与那汉子斗了三十多个回合，依然难分胜负。两人再战十数合，正斗到紧要关头，忽然听到山高处有人叫道：“两位好汉，请住手，不要再斗了。”林冲闻声，立刻跳出战圈。两人各自收住手中的朴刀，抬头看向山顶，只见王伦、杜迁、宋万以及许多小喽啰走下山来，他们已渡过河，来到两人面前。
王伦开口说道：“两位好汉，你们的朴刀使得真是神出鬼没。这位是我的兄弟林冲。敢问青面汉子，你是何人？能否告知姓名？”
那汉子回答道：“我乃是三代将门之后，五侯杨令公之孙，姓杨名志，因流落在此关西之地。年轻时，我曾应过武举，官至殿司制使官。当年道君皇帝为建造万岁山，派遣我等十个制使前往太湖边搬运花石纲进京交纳。不料我时运不济，在黄河中遭遇风浪，船只翻沉，丢失了花石纲，无法回京复命，只得逃往他处避难。如今朝廷大赦天下，我得以归来。今日我收了些钱财物品，正打算回东京枢密院打点事务，再处理自己的私事。路过此地时，雇人挑着担子，不想却被你们夺了去。可否请你们将担子归还给我？”
杨志说：“既然好汉认得我，那就请归还我的行李吧，这比请我吃酒更有意义。”王伦道：“制使，我数年前去东京应举时，就已听闻您的大名。今日有幸相见，怎能让你空手回去呢？请先到山寨稍作歇息，我们并无恶意。”杨志听了，只得跟随王伦一行人过了河，上山来到寨中。
王伦叫来朱贵，与杨志一同上山寨相会。众人都来到聚义厅上，左边一排四把交椅，分别是王伦、杜迁、宋万、朱贵；右边一排两把交椅，上首是杨志，下首是林冲。众人坐定后，王伦吩咐杀羊备酒，设宴款待杨志。
酒过数巡，王伦指着林冲对杨志说：“这位兄弟是东京八十万禁军教头，人称豹子头林冲。只因那高太尉容不得好人，找茬将他刺配沧州，又在那里犯了事，如今也新加入我们。制使你要上东京办事，但不是王伦我要拉拢你，只是我自己也弃文从武，来这里落草为寇。制使你也是有罪之身，虽然朝廷大赦，但难以官复原职。再者说，那高俅如今掌握军权，他怎会容你？不如就在我们小寨歇马，大秤分金银，大碗吃酒肉，一同做好汉。不知制使意下如何？”
杨志回答道：“多谢众位头领如此厚待，只是我有个亲戚现在东京居住。之前因为我的事情连累了他，我还没有来得及酬谢他。今日我打算去他那里一趟。希望众位头领能归还我的行李，如果实在不肯归还，那我也只好空手去了。”王伦笑道：“既然制使不愿意留下，我们怎敢强逼你入伙呢。请放心在这里住一晚，明天一早再走吧。”杨志非常高兴。
当天众人饮酒直到二更时分才散去各自休息。第二天早上起来，王伦又设酒为杨志送行。吃过早饭后，众头领让一个小喽啰挑起昨晚的担子，一起送杨志下山来到路口道别。又吩咐小喽啰渡河将杨志送出大路。众人告别后各自回到山寨。
从此以后王伦才肯让林冲坐在第四位朱贵则坐在第五位。五个好汉在梁山泊一带打家劫舍过着快意恩仇的生活。
只说杨志出了大路，找到一个庄户人家，雇人挑起担子，然后打发小喽啰自己回山寨去了。杨志一路直奔东京而来，免不了在路上饥餐渴饮，夜宿晓行。不几天，他就抵达了东京。有诗为证：
清白传家杨制使，耻将身迹履危机。
岂知奸佞残忠义，顿使功名事已非。
杨志进了城，找了家客店安顿下来。庄户人家交还了担子，并收了一些银两后，自行离去了。杨志在店里放下行李，解下腰刀和朴刀，叫店小二用些碎银子买些酒肉来吃。
过了几天，他央求人帮忙到枢密院打理自己原本的事务，将担子里的金银财物都拿出来买通上下关系，想要重新补回殿司府制使的职位。可是花了许多钱财后，才得到一份申请文书，得以被引见给殿帅高太尉。
来到厅前时，高俅把杨志以前的履历文书都看了一遍后大怒道：“你们十个制使去运花石纲，九个都回到京师交差了，偏偏你这厮把花石纲给弄丢了，还不来报告情况就擅自逃跑！抓了你许久都抓不到！现在再想谋个差事做？虽然朝廷已经赦免了你的罪名，但你这样的人我怎能再用？”说完就把文书全都给批驳了，并将杨志赶出了殿司府。
杨志心中闷闷不乐，回到客店里反复思量：“王伦的劝说也确有道理。我一向以自己的清白家世为傲，不肯玷污了父母的遗名。本指望凭着一身武艺，在边疆战场上一刀一枪，博个封妻荫子的功名，也为祖宗争口气。没想到却又遭遇这样的挫折！高太尉，你实在太狠毒了，如此刻薄剥削！”他心中烦恼了好一阵子，又在客店里住了几天，盘缠都用尽了。
杨志无计可施，心想：“这可怎么办呢？只有祖上留下的这口宝刀，一直跟在我身边。如今事态紧急，无路可走，只好把它拿到街上去卖，换得千百贯钱钞作为盘缠，投奔别处去安身。”于是，他当天就拿了宝刀，插上草标儿，到街市上去叫卖。
他走到马行街上，站了两个时辰，竟然没有一个人来问。快到晌午时分，他转到天汉州桥热闹的地方去卖。杨志刚站定不久，就看见两边的人都跑进河下巷内去躲避。杨志正纳闷时，只见人们都乱哄哄地拥挤着说：“快躲起来，‘大虫’来了。”杨志心想：“真是奇怪！这么繁华的城市里，怎么会有老虎出现呢？”他当即停下脚步仔细观察，只见远远地一个黑大汉摇摇晃晃地走了过来，显然是喝得半醉了。
杨志仔细打量那人时，发现他的形貌十分丑陋。只见那人面目狰狞如同鬼怪一般；身材高大却佝偻着背；四肢扭曲像怪异的树木枝杈；皮肤粗糙如同枯木朽桩一般肮脏不堪。他浑身上下都长满了密密麻麻的鱼鳞状皮肤；头发卷曲蓬松如同海螺一般紧贴在头皮上。他的胸前长着一块块斑驳的硬皮；额头上布满了深深的皱纹显得异常凶恶可怖。
原来这个人是京城里有名的无赖泼皮，名叫牛二，绰号“没毛大虫”。他专门在街上撒泼行凶、寻衅滋事，因为多次闹事被官司缠身，但开封府也拿他没办法，所以满城的人见到他都会躲着走。
却说牛二冲到杨志面前，一把夺过杨志手中的宝刀，问道：“喂，你这刀要卖多少钱？”杨志答道：“这是我祖上留下的宝刀，要卖三千贯。”牛二大喝一声：“什么破刀，居然敢卖这么贵！我三百文钱就能买一把刀，也能切肉、切豆腐。你这把破刀有什么了不起的，还敢叫宝刀？”杨志解释道：“我这可不是普通的刀，这是宝刀。”牛二追问：“那你说说看，怎么就叫宝刀了？”杨志道：“首先，这把刀砍铜剁铁都不会卷刃；其次，它可以吹毛断发；最后，用它杀人刀上不会沾血。”
牛二挑衅道：“你敢不敢剁铜钱试试？”杨志毫不示弱：“你拿来，我剁给你看。”于是牛二便去州桥下的香料铺里讨了二十文铜钱，堆放在州桥的栏杆上，对杨志说：“你要是能剁开这些铜钱，我就给你三千贯。”当时围观的人虽然不敢靠近，但都远远地围着看。
杨志轻蔑地说：“这有何难？”他卷起衣袖，手握宝刀，瞄准铜钱猛地一刀剁下去，铜钱立刻被剁成两半。众人都齐声喝彩。然而牛二却不依不饶：“喝彩个屁！你再说说第二件是什么？”杨志道：“这刀可以吹毛断发。你只需拿几根头发对着刀口一吹，头发就会齐齐断开。”
牛二说：“我才不信呢。”说着，他就从自己头上拔下一把头发，递给杨志：“你吹给我看看。”杨志用左手接过头发，对准刀口用尽力气一吹，那些头发都被吹成了两段，纷纷飘落到地上。众人见状齐声喝彩，围观的人也越来越多了。
牛二又问：“那第三件是什么？”杨志回答：“这刀杀人不见血。”牛二追问：“怎么杀人会不见血呢？”杨志解释道：“一刀砍下去，人就死了，但是刀上不会留下任何血迹，这就是它的厉害之处。”
牛二挑衅道：“我不信！你拿这刀来砍一个人给我看看。”杨志说：“这里是禁城之中，我怎么敢随便杀人？如果你不信，我可以找一只狗来杀给你看。”牛二却说：“你刚才说的是杀人，可没提杀狗的事儿。”杨志有些不耐烦了：“你不想买就罢了，何必这样纠缠不休呢？”
牛二却不肯罢休：“你拿刀来给我看看。”杨志说：“你别这样没完没了的！我又不是来陪你耍的。”牛二挑衅道：“你敢杀我吗？”杨志回答：“我和你无冤无仇，没有任何理由要杀你。”
牛二却紧紧揪住杨志不放：“我偏要买你这口刀。”杨志说：“你要买就拿钱来。”牛二却说：“我没钱。”杨志问：“你没钱揪着我干什么？”牛二耍无赖道：“我就要你这口刀。”杨志坚决地说：“我不给你。”牛二继续挑衅道：“你个男子汉大丈夫，敢剁我一刀吗？”杨志大怒之下，一把将牛二推倒在地。牛二爬起来后钻进杨志怀里继续纠缠。
杨志大声呼喊：“街坊邻居们都是见证人！我杨志因为没有盘缠，才在这里自卖这口宝刀。这个泼皮无赖却强抢我的刀，还动手打我！”然而，街上的邻居们都害怕牛二，谁也不敢上前来劝解。
牛二嚣张地喝道：“你说我打你？那又怎样！打死你又如何！”他一边说着，一边挥起右手，一拳向杨志打来。杨志灵活地躲过这一拳，顺势拿着刀冲了过去。一时间怒火中烧，他瞄准牛二的颡根部位猛地一刀刺去，牛二应声倒地。
杨志紧接着又赶上去，对着牛二的胸脯连刺了两刀，鲜血顿时喷涌而出，染红了地面。牛二挣扎了几下，便再也不动了，一命呜呼。
杨志大声说道：“我杀死了这个泼皮无赖，怎会连累你们！既然他已经死了，你们就跟我一起去官府自首吧。”街坊邻居们听后，慌忙聚集过来，跟随着杨志一同前往开封府自首。此时正值府尹坐堂审案。
杨志手持宝刀，与街坊邻居们一同进入大堂，齐齐跪下，将刀放在面前。杨志向府尹禀告道：“小人原本是殿司制使，因为失陷了花石纲，被削去了官职，没有了盘缠，只能将这口宝刀在街上叫卖。不料被一个泼皮无赖牛二强抢，他还动手打我。我一时气愤不过，才将他杀死。街坊邻居们都是见证人。”众人也纷纷替杨志作证，详细陈述了事情的经过。
府尹听后说道：“既然你是自行前来自首的，那就免去了入门时的杖打之刑。”于是下令给杨志戴上一面长枷锁，并派遣两名官员带领仵作和差役等人前往天汉州桥边进行现场勘查和检验尸体等工作。随后将案件材料整理成文案归档保存。街坊邻居们也都提供了证词并得到了保释，在衙门听候进一步处理结果。而杨志则被关进了死囚牢房里等待发落。牢房内的景象十分阴森恐怖：
推入牢狱深处，只见牢门紧闭。抬头便看见面目狰狞的青面鬼差和赤发恶鬼；黄胡须的狱卒手持麻绳准备捆绑囚犯；黑脸的牢头则拿着木匣子安排锁链和镣铐等刑具。杀威棒高高举起让囚犯心惊胆战；牢房里到处弥漫着令人窒息的恐怖气息。这里简直就是人间地狱啊！别说死后去见阎王了，就现在这般模样已经足够让人毛骨悚然了！
杨志被关进死囚牢房后，因为他杀死了恶霸牛二，许多狱卒和牢头都觉得他是个好汉，对他颇为同情。他们不仅没有为难他，反而对他照顾有加。同时，天汉州桥下的百姓们也因为杨志除去了街上的一个大害，纷纷筹集了一些钱物来给他送饭和打点狱中的关系。
审理此案的推官也看到杨志是个自首的好汉，并且为东京街上除了一害，而牛二家又没有其他苦主来告状，所以就把他的罪状改得轻了一些。经过多次审讯和调查，最终将杨志的罪名定为“一时斗殴杀伤，误伤人命”。
等到六十天的限期满了之后，推官向府尹禀报了案情，并将杨志带出厅前进行宣判。他被除去了长枷锁，并挨了二十脊杖的责打。随后又找来个文墨匠人在他脸上刺了两行金印作为标记，并判处他发配到北京大名府留守司充军。而那口宝刀则被官府没收入库。
宣判结束后，杨志被当场押送了文书并分配了两个解差——张龙和赵虎负责押送他上路。临行前天汉州桥下的大户们又筹集了一些钱物送给杨志做盘缠，并请两位解差一起到酒店里吃了顿饭以示感谢。他们拜托两位解差在路上多多关照杨志并好好照顾他一番。张龙、赵虎也表示知道杨志是个好汉并会尽力照顾他请众人放心。
杨志和两个公差来到了原先住过的客店，结清了房钱和饭钱，取回了之前寄存的衣物和行李。他们准备了些酒食，请两位公差一起享用，并找来了医生为杨志治疗脊杖留下的伤口，贴上了膏药。之后，三人便一同踏上了前往北京大名府的路程。
一路上，他们按照路程标志行进，每经过一个州县都会买些酒肉来款待张龙和赵虎。他们在路上夜宿旅馆，白天行走在驿道上，不久便抵达了北京城。进入城中后，他们找了一家客店安顿下来。
北京大名府留守司是一个权势显赫的机构，既管理军队又管辖民众。留守的名字叫做梁中书，讳世杰，他是当朝太师蔡京的女婿。这一天是二月初九日，梁中书在官厅升堂办公。两个公差将杨志押解到留守司厅前，并呈上了开封府的公文。
梁中书看过公文后，认出了杨志。他曾在东京时与杨志有过交集，因此当即询问了杨志的案情经过。杨志便将高太尉不容他复职、他耗尽钱财后卖掉宝刀、以及因此误杀牛二的实情一五一十地告诉了梁中书。
梁中书听后大喜过望，当即在厅堂上为杨志打开了枷锁，并留他在厅前听候差遣。之后他批回了公文给两个公差让他们自行返回东京交差。
杨志自从进入梁中书的府中后，每天早晚都殷勤地听候使唤，表现得非常勤谨。梁中书看在眼里，心中有意要提拔他，打算将他升为军中的副牌，每月支付一份俸禄。然而，他担心其他将领和士兵们不服，因此下达命令，让军政司通知所有大小将领和士兵，第二天都要到东郭门的教场中进行演武试艺。
当晚，梁中书将杨志召到厅前，对他说：“我有意要提拔你担任军中的副牌职务，并每月支付你一份俸禄。但我不知道你的武艺如何？”杨志回答道：“小人曾应过武举并出身于此，还担任过殿司府制使的职务。这十八般武艺，我从小就开始学习。今日能够得到您的提拔和重用，就如同拨云见日一般。如果我杨志能够得到一点点的进步和提升，必定会竭尽全力来报答您的知遇之恩。”
梁中书听后非常高兴，并赐给杨志一套崭新的衣甲作为奖赏。那一夜平静无事地过去了。
有诗为证：
杨志英雄伟丈夫，在市集上卖刀时误杀了无赖之徒。
然而命运却让他这个罪犯来到了幽燕之地的大名府，
在演武场上他将展现出无人能敌的武艺和英勇。
第二天清晨，时值二月中旬，天气风和日丽。梁中书用过早饭后，便带领杨志上马，由前呼后拥的随从陪同着向东郭门而去。到达教场时，大小军卒以及众多官员已经在那里迎候。他们在演武厅前下马，然后走上厅堂。
在演武厅的正面，梁中书坐在一把浑银交椅上，左右两边整齐地排列着两行官员，包括指挥使、团练使、正制使、统领使、牙将、校尉和副牌军等。教场的前后周围则站着一百多名将校，他们一个个都显得威武凶猛。正将台上站着两个都监，一个叫李成被称为李天王，另一个叫闻达被称为闻大刀。这两人都有万夫不当之勇，统领着大量的军队。他们一起向梁中书行了三次礼。
随后将台上竖起了一面黄旗，教场内的气氛立刻变得紧张起来。将台两边各有三五十对金鼓手开始擂鼓助威，三通画角声和擂鼓声响彻整个教场，使得场内无人敢高声喧哗。接着又看到将台上竖起了一面净平旗，前后五军都立刻整队肃立。
当将台上的引军红旗开始挥动时，五百名士兵迅速列成了两阵，他们手中各持器械做好了战斗准备。随着将台上的白旗再次挥动，两阵马军也整齐地排列在了面前并勒住了马匹等待进一步的命令。
梁中书下达命令，传唤副牌军周谨上前听令。周谨听到呼唤后，从右阵中跃马而出，迅速来到厅前。他跳下马，插好枪，然后大声地行了一个礼。梁中书说：“现在，周谨，展示你的武艺吧。”周谨接到命令后，绰起长枪上马，在演武厅前左右盘旋，将手中长枪使得风生水起，众人纷纷喝彩。
接着，梁中书又喊道：“叫那个从东京调拨来的军健杨志上前来。”杨志应声走到厅前，也大声地行了一个礼。梁中书对他说：“杨志，我知道你原来是东京殿司府的制使军官，因犯罪被发配到这里。现在国家正值用人之际，盗贼猖狂，你敢不敢与周谨比试武艺高低？如果你赢了，我就提拔你担任他的职位。”杨志回答道：“如果能够得到您的差遣和提拔，我怎么敢违背您的旨意呢？”
于是梁中书命令取来一匹战马，并让甲仗库的随行官吏为杨志配备武器。杨志披上战甲、戴上头盔、携带弓箭和腰刀、手握长枪上马，从厅后飞驰而出。梁中书看了之后说：“让杨志和周谨先比枪法。”周谨闻言大怒道：“这个贼配军竟然敢来和我交枪！”他也没想到这句话会激怒杨志这个好汉，于是两人便开始了激烈的武艺较量。