得闻兄长未及，关羽不再迟疑，亲率十万大军，兵分三路攻入徐州，而关羽则是率主力七万先破前哨萧城，杀敌三千余。
关羽攻下萧城后主动向徐州小沛甘宁部发难，跨江进攻甘宁所守小沛。
敌军三倍于小沛守军，甘宁镇静自若，命将士们严阵以待。
关羽因为心忧兄长刘备安危，不愿在此地久待，便就欲要说降甘宁。
不料甘宁闻言，却先是大笑三声，继而大骂道：“我受主公吕布厚恩，领命来镇此土。昔日马文渊在我这个位置，能南平百越，北灭群狄，我甘宁虽然不及马文渊，但即使不能遏除凶慝，又岂能做出投降之举！今日我甘宁就要豁出性命以报答我主厚恩，仗义以整乱，顺应天道，这赢得人最终只会是我。”其后为迷惑敌人，甘宁下令紧闭城门，偃旗息鼓，示弱于敌。甘宁登上城楼，仔细观察敌军，认为可以出击，突然打开城门，将士们如下山猛虎，奋勇杀出，向敌阵冲去。
关羽为人极为骄傲，闻听小沛守军甘宁乃是不过以贼尔，先自大意，又见甘宁兵少，想来不会主动出击，因而所部猝不及防，被甘宁军冲乱，溃不成军，失去指挥。
谋士沮授亲自在城头擂鼓，万余将士奋勇冲杀，关羽军很多士兵措手不及，被杀死践踏者不计其数，大败而回。
小沛首战，甘宁取得全面胜利。
不久，关羽重整人马，不日就率大军卷土重来，再次进攻小沛城。
甘宁听从谋士沮授之言，一面向吕布告急，一面做好应敌准备。甘宁暗中命人在救兵来援的必经之地聚积柴草，隔十步一堆，纵横成行，布列整齐，然后乘夜点燃，光照远近。关羽军发现后，误以为救军已到，十分惊恐。甘宁见时机已到，亲率大军出击，一举击溃关羽军，再次取得了保卫小沛的胜利。
接连两次被甘宁所败，关羽大怒，令人随后大举进攻，只是甘宁攻防有序，不得令关羽再进半步。
随后濮阳援军来到，关羽见事不可为，只得长叹一声，又是坚持半月后，终还是退回寿春，再做打算。
而甘宁等人得此大胜，喜不自禁，其后令人将缴获的关羽帅旗送于吕布处，言明一切。
吕布得到消息，当下大喜，令人将所得的三面关羽帅旗绑与长杆之上，令骑士日夜环绕下邳城外，言明关羽之败。
就此一招，下邳城中士气更是不振，刘备也是更为急躁。
三弟张飞眼见二哥关羽战败，不愿就此在城中坐以待毙，便就向刘备请战，杀出一条血路，保护刘备前往东海，然后出海往寿春去，待日后东山再起。
刘备心动，因为此时城中人马还能一战，若是时日再久，只怕就要不行，此等突围之事还是趁早为妙。
但是以张昭为首的等人却是不同意，他们这些年在徐州扎下了根，他们所有的一切都是在徐州，若是刘备出走，那么他们这些刘备的党羽又会有怎么样的处境，他们甚至不愿意去想。
为此，张昭只能劝阻道：“主公，吕布深谙战法，岂能不防着这一手，在前往东海之处定然设下人马无数，这突围也是万分凶险，不可轻易尝试啊。”
“这。。。”
刘备左右为难，也是不能下定决心。
张昭再道：“虽说下邳被围，但是我城中粮草还算富裕，坚持半年之用也是不成问题，而吕布在外，粮草运输不方便，在外又有曹操，云长在侧，时日一长必定会撤军，因而请主公放心就是。”
刘备闻言，稍稍安心，依张昭之言，防守与下邳。
又过三个月，寿春关羽果然又是来攻，不过还是在小沛城吃了亏，强攻未能得手，而其后刘表令江夏大将黄祖派兵一万，粮草十万石交厚关羽，以为援助。
不得已，吕布只得令三州之地在此招募人马，由麴义操练。
麴义，自断臂之后，性情大变，虽得吕布慰言，但还是自艾自弃，因而吕布为此亲自书信一封讲明个中要素，总算让麴义明白，暂时平复心情，在邺城练兵，其后又令副将率军而出。
再过一个月，便是三月份时候，此时大地回春，人马活络，也是吕布用兵之日，大战进行之时。