东汉末年，黄巾群起、天下大乱，董卓专权、汉室凌迟。在“讨董联盟”不欢而散之后，山东各个地方势力转而展开了激烈的兼并战争。献帝初平三年（192年），曹操借“青州黄巾军攻入兖州、州牧刘岱战死”的机会，在济北相鲍信与兖州众官员的迎立下，成为了兖州牧。此时，黄巾军声势浩大，曹操和鲍信进兵讨伐，鲍信力战而死。曹操“设奇伏，昼夜会战”，终于将黄巾军击败，获降卒三十余万，人口百余万。曹操收其精锐，组成军队，号“青州兵”。这些招降的黄巾军士个个身经百战，战斗力极强，至此曹操不但得到了兖州这块属于自己的地盘，而且麾下的军队也形成了很强的战斗力，成有较有实力的一路诸侯。
兼并之初，四海鼎沸，各地方势力间实力接近、不相上下，出于各自利益的考虑，冀州的袁绍、兖州的曹操、荆州的刘表站在了一条战线上，而幽州有实权的公孙瓒、寄居荆州境内的袁术和豫州的孙坚、徐州的陶谦站在了另一条线上，由此在山东地区形成了两大战略联盟，天下大争就此拉开。
此时，曹操控制的兖州和陶谦控制的徐州是相接境的，兖州可以吞并徐州，徐州也可以吞并兖州。兖州牧曹操和徐州牧陶谦自然也就成为了一对死敌，只是碍于形势，双方并没有爆发大规模的战争。之后的一件事情成为了兖徐战争的导火索。初平四年（193年）秋，曹操的父亲曹嵩在前往兖州曹操处的路上，为护送的陶谦部将张闿所杀。愤怒的曹操向陶谦进行了复仇性的攻击，一连攻陷十余县，进击彭城。陶谦率主力迎战，大败，逃回郯县（今山东郯城）固守。曹操军粮将尽，撤围回军。次年二月，曹操再征徐州，连破五城，略地至东海。陶谦受到曹操重创后，只得向盟友青州刺史田楷求救，田楷跟平原相刘备前往支援。刘备借助这个机会便离开田楷，归附陶谦。陶谦向东汉朝廷推荐刘备为豫州刺史，驻屯小沛，作为自己的屏藩。同年四月，曹操，命荀彧、程昱留守鄄城，自己亲率大军，再次对陶谦发动复仇攻击，夺取地盘。大军进逼琅邪郡、东海郡，所过之处大肆杀戮，一路上“鸡犬亦尽，墟邑无复行人”，并在郯县东郊，击破刘备部队。陶谦震恐，打算逃回丹阳郡。就在此时，曹操的挚友、陈留太守张邈背叛曹操，迎接吕布，曹操只好火速退兵。
吕布，字奉先，五原郡九原人，是当时的名将。《三国演义》“破关兵三英战吕布”一回中，描写其英武非常、神威天纵，虎牢关前关羽、张飞、刘备三人围攻，也未能将其战倒；后来为了自己爱慕的貂蝉，与王允合力诛杀董卓，而“凤仪亭吕布戏貂蝉”这个场景也与“楚霸王怒焚阿房宫”一并成为了“冲冠一怒为红颜”的经典，貂蝉与吕布也变成了后世所羡慕的仙侣佳偶。但是，“演义”中“三英战吕布”和“王允连环计”这两段动人的故事都是子虚乌有的，不过吕布的英勇无敌、诛杀董卓却是真有其事。《三国志》记载：吕布善弓马骑射，膂力过人，作战勇猛，特别善于率领骑兵，被喻为“飞将”。在民间也有“人中吕布，马中赤兔”一说。据正史记载，吕布因其勇武而被并州刺史丁原任为主簿，二人非常亲近。董卓入主洛阳后，利用吕布的贪心以及丁原对吕布的信任，以重利为诱饵通过吕布刺死丁原。董卓也非常喜欢吕布的才能，任命其为骑都尉，不久再任他为中郎将，封都亭侯。山东诸侯起兵讨董之时，吕布也曾参战，却与将领胡轸不和而被孙坚所败。董卓迫于外在的军事压力，只得胁迫献帝迁都长安。王允、士孙瑞、杨瓒等密谋暗杀董卓，拉拢吕布，并合力杀掉了董卓。董卓死后，吕布因功任职奋武将军，假节，仪比三司，进封温侯，与王允同掌朝政。董卓死后两个月，其旧部属李傕和郭汜等本想解散部队，归隐田野，途中遇贾诩献计，召集旧部，攻入京城，吕布战败，仓皇出逃。吕布先后投靠袁术、袁绍和张扬等人，均因自己为人骄纵、反复无常，而没能取得对方的信任。幸而此时，张邈在说客的鼓动下主动迎接其入主兖州，吕布才算是有了一片落脚之地。
吕布军进入兖州是曹操生死存亡的一个重要关头。当时，只有鄄城（今属山东）和东郡的范（今山东范县东南）、东阿（今山东阳谷东北）两县尚在曹操掌握之中，分别由荀彧、程昱和夏侯惇等坚守，形势异常危急。如果曹操的兖州根本为吕布所破，或者其回救而其主力军队被吕布歼灭，则曹操真的就要没有立锥之地了。《三国志·魏武帝纪》记载，曹操从徐州赶回，听说吕布屯于濮阳，认为吕布“得一州，不能据东平，断亢父、泰山之道乘险要我，而乃屯濮阳”是无能之举，遂进军围攻濮阳。后世很多史评家均认为吕布此举是个败着，其实细想起来倒也未必。吕布所统军队的精华是他的骑兵，利于开阔地的突击作战，而不适合在峡谷险山之间周旋；此外，兖州尚有三座大城没能征服、荀彧、夏侯惇等绝非等闲之辈，若冒然出动主力据曹操于兖州之外，很可能会形成“你中有我、我中有你”的窘境，局势反而难于控制，不如集中兵力以逸待劳，直接诱曹军决战，凭借骑兵的优势一举击破其主力，借此平定兖州全境。史实上也是相似的，吕布军与曹操军合战，吕布出动麾下骑兵直突曹军。出乎曹操意料的是对手的骑兵非常精锐，在这些精锐骑兵的冲击下青州兵的阵势动摇了，曹操在这场战斗中也受了伤，幸得手下相救才能全身而退。这就是《三国演义》上大肆渲染的“濮阳城温侯破曹操”一役。但是，曹操手下兵马本来不弱，本人又是善能用兵的人，这一场败仗到不至于使其一败涂地。曹操回到大营后，自力劳军，制备攻具，再次进攻濮阳，二军相持了百余日，蝗灾大起，双方停战，曹操军还鄄城。兴平二年（195年）春，曹操整军再战吕布，在定陶击败吕布军。五月，曹操向驻屯于钜野的吕布军薛兰、李封部主动发动攻击，吕布亲往援救，但被曹操击败，斩薛兰、李封，吕布退走。曹操驻军乘氏，得知徐州牧陶谦去世，打算夺取徐州，等夺取到徐州之后，再回军攻击吕布。谋士荀彧阻止道：“昔日高祖保有关中，光武据守河内，以其作为根本进而控制天下。如此则进可胜敌，退可休养，故而，虽有一时的困顿失败，但最终完成了统一大业。将军根本在于兖州，以‘起义兵、拯救山东’为名在当地已经具有了相当的影响。而且黄河与济水之间，是天下要冲，暂时残破，却仍可以自保，正是将军的‘关中’‘河内’，不可不先寻求它的安定。而今，已击破李封、薛兰，如果派出一支特遣部队，向东攻击陈宫，陈宫必然不敢再起西进的念头。然后，我们利用这个时间，动员所有军民，收割熟麦，储存粮秣，再发动一次大规模的攻击，就可消灭吕布。之后，跟南方的扬州缔结同盟，共同袁术，就可以控制淮河、泗水。如果不考虑吕布的威胁，即行向东攻击徐州，陶谦虽死，但州府官员迫于我方压力必将更加团结，内呼外应，一时见恐难平定。我军后方留兵太多，前方便会感到不足；后方留兵太少，势必征召人民入伍，保护城寨，则百业停顿，民众疲敝。一旦吕布乘虚而入，人心必然动摇。到时候，恐怕我们辛苦收复的城池又将丢失，将军真就无家可归了。天下事情常有取舍之抉择，而抉择的标准在于，选取重大的，放弃微小的；选取安全的，放弃危险的。观察当前形势，权衡利害，必须考虑兖州根本的稳固，才可以实施。”曹操听后深以为然，就打消了这个念头，并集中兵力与吕布会战，于巨野（今山东巨野南）大破吕布军，吕布逃往徐州投靠刘备。吕布与曹操的“兖州之争”就此告一段落。
了解三国历史的朋友都知道，陈留太守张邈是和曹操最有交情的人。曹操的起义兵讨董卓，张邈是最先支持他的人，曹操入主兖州也得到了张邈的鼎力支持，而在第一次进攻徐州时操又将家小托付给张邈，那么又是什么原因导致张邈最终背叛了曹操呢？飞刀认为主要有两大原因：其一，早在联合讨董之时，袁绍既为盟主，有骄矜色，张邈就曾正议指责袁绍。袁绍心中很不高兴，并指使曹操杀掉张邈。而曹操并没有听从，为此还得罪了袁绍。张邈知道此事后，非常感激曹操。但随着曹操和袁绍联盟关系的确立，出于征伐徐州的需要，二者关系更是越走越近。此时张邈与吕布的交往再次得罪袁绍，因此畏惧曹操为了拉拢袁绍而将自己杀死，心不自安。其二，前任九江郡（安徽省寿县）首陈留郡人边让，曾经讽刺抨击曹操，曹操听到后，恼羞成怒，诛杀了边让跟他的妻儿。没想到边让这个人知名度很高，是当时名士的代表人物，在士大夫中影响甚大，他的死引起兖州士大夫的震恐与愤慨。曹操部属陈宫也疑心可能步边让后尘，遂跟从事中郎许汜、王楷，以及张邈的弟弟张超等人游说张邈背叛曹操。张邈本也属于士大夫行列，对于曹操诛杀边让的行为早就不满，双方一拍即合。正是公利和私心的不断作祟，使得张邈最终背叛了自己的好友。
《三国志》的作者陈寿曾评价吕布“有虓虎之勇，而无英奇之略，轻狡反复，唯利是视”，可见如此一个唯利是图、毫无远大目标的人，在乱世之中是很难真正有所作为的，充其量也就是个搅局人。通过这次兖州危机，曹操也悟出了威胁自己在兖州统治的不是吕布，而是他本人和他的军队。东汉社会是有平民和士大夫组成的，在张邈和吕布的叛乱中这两派势力都没能表现出太高忠诚度，甚至成为了变乱的发起者（士大夫）。若想在这样的社会中建立稳固的统治根基必须赢得二者的支持。因此，曹操吸取了教训，对自己执政和治军的策略进行了调整。首先，适当改变了对士大夫轻视的态度，对于狂妄的名士也都不在进行杀害，而是转而采取其他方式加以解决（例如，假借刘表和黄祖之手除掉狂士祢衡）。其次，约束军士、严明军纪，始终以“官军义兵”的身份出现，尽量做到不扰民、不枉杀。其三，申明法纪，奖惩公平，鼓励生产，发展农耕。这三点重大的调整，使得曹操与公孙瓒、吕布等传统军阀势力形成了鲜明的反差，在兖州地区形成了较为赢得民众支持的地方政权。正所谓：“天下汹汹、生灵涂炭，唯不嗜杀者得天下。”