不久骑督李乾率军先来，急切道：“主公，大事不好了，兖州……咱们的兖州被吕布……攻陷了！”曹操一阵眩晕，一把提起李乾，怒吼道：“你……再说一遍！”李乾哭丧着脸道：“荀司马派人来信，吕布偷袭了兖州，如今兖州只剩下三座小城，望主公速速发兵回援！”
曹操大喝一声，拔出佩剑就要杀出营寨，戏志才急忙拦住曹操，疾呼：“主公，万万不可！速速撤军吧！如果兖州出了大事，三军粮草立时就断了，到时候消息一旦传出去，军心立马大乱。何况陶谦与刘备合兵一处，急切之间难以剿灭，即便赢了，也是惨胜，得不偿失。兖州是根本，咱们不能没有根基呀！”曹操气得头疼，回身斩断了辕门木柱，立即下令回援兖州。途中攻陷了徐州襄贲县，再次屠戮十万百姓泄愤。曹操无论如何也想不明白，陈宫为什么要背叛自己。
原来自从曹操走后，陈宫越想越气，于是前往拜访陈留太守张邈。陈宫将曹操屠戮百姓的事细细告诉张邈，张邈惊得目瞪口呆。陈宫叹气道：“当日我辅佐主公当兖州牧，是看出他能够救黎民百姓于深水火热，成就一番丰功伟业。没想到如今竟自己酿下了这样的苦果，可怜了徐州数十万百姓。这次主公再次出征，我劝他不要再屠杀无辜，可你猜他怎么说？宁我负人，毋人负我。哈哈……可笑啊，这是人话吗？”
张邈摇头叹气，“这还是当初与我同盟讨贼的曹孟德吗？那时董贼祸乱洛阳，驱逐百万黎民，数万百姓无辜惨死，我们诸侯联盟不就是为了救黎民，救汉室吗？如今曹孟德这样做，确实让人寒心啊！可惜你我如今都在屋檐下，能有什么办法？咱们只能等他气消了，再慢慢劝他吧！”
陈宫大惊，“孟卓兄，徐州有近三百万百姓，难道你要眼睁睁看着他们被屠戮殆尽吗？”张邈听出陈宫话外之音，忙问陈宫意思，陈宫咬牙道：“如今只有一个办法，推翻暴政，再立新主。孟卓兄拥兵十万，当年讨伐董卓，你也是一路诸侯，闻名天下。那时曹操只不过是你的附庸，如今你的附庸骑在你头上作威作福，孟卓兄不觉得太卑微了吗？”张邈怒容满面，又忧虑重重，无奈道：“公台贤弟说得对，可是我威望不够，兖州官民未必肯拥戴我。”
陈宫一阵大笑，摆手道：“孟卓兄不必担忧，咱们可以请闻名天下的飞将吕布前来当兖州牧。他诛杀董卓，勇冠三军，必定能够令兖州官民信服。再者，我已经与从事中郎许汜、王楷等人商议过，他们也对曹操罄竹难书的恶行十分愤慨，都愿意推翻曹操暴政。眼下只等孟卓兄一句话了！”张邈猛一跺脚，激动道：“好！大丈夫生当做人杰，我张邈愿意与公台贤弟共赴大业！”
不久张邈以邀请吕布帮助进攻陶谦的名义，请吕布率军前来兖州，又派刘翊通知荀彧：“吕将军前来帮助主公攻打陶谦，应该提前准备军粮供给他们。”荀彧瞧出蹊跷，一边派兵加强防范，一边派人召来东郡太守夏侯惇。夏侯惇正驻守濮阳，知道曹操的家眷都在鄄城，急忙率军队轻装前往，半道与吕布大军相遇，双方鏖战，难分难解。这时陈宫趁机献计：“主公，不必与曹军争一时长短，立刻挥军占据濮阳，号令兖州。夏侯惇离开濮阳，濮阳必定空虚，唾手可得啊！”
吕布大喜，假装败退，奇袭濮阳。夏侯惇与张辽鏖战数百回合，最后败退，不敢再追，急忙掉头直奔鄄城。吕布占据濮阳，号令兖州，这时张邈、张邈弟弟张超、别驾陈宫、从事中郎许汜、王楷等一起举事，奉吕布为兖州牧。兖州所属郡县一同响应，齐齐倒戈一击，讨伐曹操。曹操在兖州的根据地只剩下司马荀彧、寿张令程昱镇守的鄄城、范县和东阿没有依附吕布。
荀彧担心范县和东阿迟早不保，忙请来夏侯惇和程昱一起商议对策。当时荀彧只有三十出头，夏侯惇已经四十余岁，程昱更是五十余岁，但夏侯惇和程昱都静静听荀彧指挥。
荀彧分析道：“现在兖州大乱，到处人心浮动，夏侯太守，烦劳你立刻斩杀叛徒，稳住军心。”夏侯惇欣然点头。荀彧又握着程昱手道：“程老，鄄城、范县和东阿关乎主公生死存亡，只有保全这三城，才能给主公争得一席之地，为将来反攻留下火种。我料陈宫必定会重兵来攻，如果三城能同心协力，成掎角之势，互相援助，咱们就还有一线希望，否则必定一败涂地。程老是东阿人，你德高望重，如果你去游说两县，他们必会遵命。”
程昱欣然领命，当即快马直奔范县和东阿。途径范县时，陈宫已经派使者氾嶷逼迫范县县令靳允投诚。程昱一番游说，靳允立刻派兵伏杀使者，保全了范县。程昱当即请靳允派兵把守仓亭津，及时阻止了陈宫大军渡过黄河，保全了东阿。
吕布见三城拒绝投降，立刻催动大军攻打鄄城，夏侯惇率军出战，被吕布一箭射中左眼，从此成为“盲夏侯”。吕布乘机进攻，大败夏侯惇大军。荀彧急忙下令死守鄄城，吕布无法攻下，只好回军。
见久攻不下，陈宫趁机献计：“主公，曹操大军很快就会回援，咱们得保存实力，不能死拼硬耗。区区鄄城，我有一计可以立马破了它！”于是吕布去信豫州刺史郭贡，邀郭贡一起进攻鄄城。
当时郭贡是朝廷任命的豫州刺史，虽然是朝廷任命，却不得不背靠袁术。许多朝廷任命的官员，如果不拜袁绍兄弟的山头，多半会被截杀。郭贡正是背靠袁术，才能太平上任。他素来与曹操不和，自然同意相助吕布，又亲自领兵三万前往。
夏侯惇大惊，忙率军据守。荀彧笑道：“夏侯太守这么做就把自己的虚实都暴露了。郭贡约我相见，必定是不知道鄄城的虚实，想探一探。我如果不去，反倒显得心虚。只有我亲自前往，游说郭贡，尽量使他保持中立，咱们才能保全鄄城。”
荀彧于是出城见郭贡，拱手劝道：“郭刺史是朝廷的人，难道不知道天下大势吗？当初为了保全陛下，是我家主公率先起兵。袁术等人暗怀帝王之志，迟早要谋反，唯有我家主公心怀汉室，有安邦定国的志向。郭刺史如果心中还有汉室，还有陛下，就不要助纣为虐，涂炭生灵！”郭贡见荀彧面不改色，料想鄄城易守难攻，欣然点头，于是引兵退去。
郭贡退军，曹操也正退军，徐州牧陶谦大喜，急忙召来青州刺史田楷和平原相刘备等人，大摆宴席庆贺。
这时青州传来急报：袁绍军占领了平原。田楷和刘备纷纷大惊，暗暗愤恨。陶谦见刘备没了立足之地，当即慷慨道：“玄德为了大义前来援救徐州百姓，徐州百姓感恩戴德。我作为徐州牧，绝不会让玄德做了好事，却得不到好报。下邳往北三百里处有座小城，名叫沛县，又叫小沛，与太祖高皇帝的故乡紧挨。玄德如果不嫌弃，可以暂住沛县，待日后田刺史攻下平原，你再回去不迟。”
刘备与田楷商议一番，于是田楷率军返回青州，刘备暂时留下帮助陶谦抵御曹操。陶谦趁机表刘备为豫州刺史，暂住小沛。
公元194年，刘备正式入驻小沛，以小沛为豫州刺史治所，世人又称刘备为刘豫州。刘备名义上是豫州刺史，其实只管辖着沛国地区，相当于陶谦治下的豫州刺史。像颍川郡、汝南郡、陈国、梁国、鲁国等地被曹操、袁术、郭贡三家瓜分。
刘备入主小沛，相当于给陶谦看守北大门。他任命关羽、张飞为别部司马，以太史慈为裨将，命三人训练军卒，招募士兵。又亲自征辟颍川人陈群为别驾，举袁绍长子袁谭为茂才，举贤不避仇，重用贤良。同时一边派人打探北面吕布和曹操的战事，一边派人打探青州的战事。
兖州方向，曹操大军回援，很快兵临濮阳。两军对垒，吕布拥兵三万，曹操拥兵五万，双方在濮阳城下鏖战。吕布派张辽引军在左，高顺引兵在右，陈宫、宋宪率军守城，自己亲自率军冲杀。曹操也派曹仁率军在左，夏侯渊率军在右，自己亲自指挥于禁、乐进、李乾冲杀。