得知徐州牧陶谦病重，刘备急忙召集别驾陈群、治中简雍、从事孙乾、参军诸葛亮等人商议对策。陈群摇头道：“徐州是四战之地，即便得了徐州也守不住。何况陶谦有两个儿子，陶谦手下又有骁勇跋扈的丹阳兵，还有一群丹阳将领，他们与陶谦是同乡，必会拥戴陶谦的儿子。”诸葛亮摇头道：“听闻徐州别驾糜竺、沛相陈珪、典农校尉陈登、骑督糜芳都与主公关系较好，陶谦也有心将徐州托付给主公，咱们又与袁术关系修好，暂时立足徐州是最好的选择。至于以后，咱们还可以前往别处立足，未必要死守徐州。”
不久沛相陈珪、典农校尉陈登一起前来游说，劝刘备取徐州立足，与曹操化干戈为玉帛，保全徐州百姓。简雍也趁机劝说，刘备感慨万千，欣然前往徐州下邳。
陶谦临终托孤，握着刘备手道：“贤侄啊，我已经六十三岁了，镇守徐州七年，任用臧霸、孙观讨灭黄巾，任命陈登屯田，使徐州百姓安居乐业，衣食无忧。对百姓，我不敢不尽心。对朝廷，我也恪尽职守。先推举朱儁代理车骑将军，讨伐董贼；后联名推举他为太师，征讨李郭二贼。虽然没能救出陛下，可为了大汉，我也算尽了一份心。七十古来稀，能活过六十已经是上天对我眷顾，我没有什么奢求了。唯一遗憾的是，本以为能造福徐州百姓，落个好名声，不料临终前给徐州带来灭顶之灾。想到我那两个不争气的儿子，我死不瞑目啊！”
刘备忙宽慰道：“公子陶商贤明有智慧，二公子陶应文武双全，都是难得的人才，明公不必忧心，有我们一起辅佐，两位公子必能够承继明公大业，造福一方百姓。”陶谦摆摆手，神色哀伤，“贤侄不必宽慰我，我自己的儿子我能不了解吗？一个勇而无谋，一个才疏学浅，恐怕都担不起大任。万一曹操再度挥军徐州报仇，还望贤侄替我护好两个犬子，护好徐州百姓。”刘备握着陶谦手道：“明公放心，我必会拼死保住你的基业！”
陶谦长舒一口气，指着旁边徐州牧大印道：“贤侄是厚道人，几次舍命援救徐州，我替徐州百姓谢谢你仗义相救。听闻曹操已经收复大半个兖州，将吕布驱赶到山阳郡，真是天不佑我啊！我料曹操早晚必会卷土重来，到时候两个儿子只怕死无葬身之地。贤侄啊，我把徐州托付给你，望你替我护好徐州，保全两个犬子！”刘备心下一惊，“明公……你……唉，刘备遵命！明公放心，我必会保全两位公子！”
这时别驾糜竺前来，领着刘备见徐州文武官员。中郎将申耽、司马章诳、下邳太守曹豹等人纷纷反对，请求拜见陶谦。陶应拔剑半出鞘，陶商也扬声质问：“我父亲怎么会把徐州交给他人？我要面见父亲！”糜竺捧着大印道：“这是主公大印，也有主公文书，公子如果不信，尽可以前往询问！”
陶商、陶应纷纷直奔内室，糜竺趁机眼神暗递，旁边糜芳悄悄退去。刘备面色难看，手按腰间宝剑站在堂外。众人纷纷静等，只听屋里吵翻了天，陶应咋咋呼呼，震耳欲聋。全程只有陶应的聒噪声，既没有陶商的声音，也没有陶谦的声音。众人面面相觑，窃窃私语。
不多时陶商领着陶应出来，指着糜竺怒问：“糜竺，我父亲已经撒手西归，你假传我父之命，是受谁指使？”话音刚落，陶应拔剑出鞘，直奔糜竺刺去。糜竺大惊失色，剑到身前，突然剑身被击断，惊得一身冷汗。陶应被震退几步，定睛望去，刘备已经还剑入鞘。陶应大怒，陶商忙拦住，望着刘备质问：“刘玄德，你要谋反吗？”刘备冷眼相对，“公子可否听我说几句？”
陶商无奈，领着众人来到堂上。陶商背着手面北望着墙上丹画，陶应手握断剑，怒气冲冲。众人纷纷站在两旁，唯独刘备和糜竺站在堂下。刘备叹气道：“不瞒诸位，曹操已经收复大半个兖州，战胜吕布不过是时间问题。长则半年，短则数月，吕布必败无疑。到时候曹操兴兵攻来，谁能够抵挡？”陶应冷笑道：“我父亲手下猛将如云，何惧曹操？”
刘备眼神一瞥，糜竺忙扬声质问：“曹操第一次征徐州，攻略彭城国、琅琊国、东海郡、下邳郡，只差鲁国和广陵没有被屠戮。曹操第二次讨徐州，再次破下邳，险些攻破东海郡郯县。恕我直言，不是刘州牧两次救援，徐州还存在吗？诸位还有命站在这里说话吗？陶州牧之所以把徐州交给刘州牧，正是看出了这一点，他担心曹操第三次入侵，会拿两位公子开刀，用你们的首级祭奠亡魂。而刘州牧与曹操有些交情，可以请曹操看在薄面上不再追究两位公子杀父之仇。”
话音刚落，骑督糜芳率军围住了府宅，径直上前禀报：“启禀州牧，沛相陈珪、典农校尉陈登、豫州参军诸葛亮已经率军驻军城外。属下先率本营兵马护卫州牧安全！”
众人纷纷大惊，个个震悚。陶商叹气道：“罢了，既然父亲做了决定，我们遵守就是。”陶应正要开口，被陶商拦住。陶商回身扫视众人，又面北下拜道：“陶商拜见刘州牧！”其余人跪了一半，剩下一半纷纷观望，最后纷纷跪拜。
为陶谦办完丧事后，刘备封陶商为治中，陶应为东海都尉，二人纷纷推辞。刘备只好分广陵平安供陶家居住，又下令陶府一切所需全部徐州供应，又赐给二人良田千顷，钱财千万。送走了陶商二人，刘备先封糜竺为徐州别驾，陈群为治中，简雍为长史，陈登为司马，诸葛亮为军司马，孙乾为从事。又封关羽、张飞为裨将，太史慈为别部司马，关平、糜芳分别为曲军候。
一日刘备召集众人商议如何安抚徐州。陈登上奏道：“主公，陶谦在徐州七年，大肆提拔同乡丹阳人，导致军中丹阳将领偏多。但丹阳兵又是徐州最精锐的部队，轻易又动不得丹阳将领。眼下应该安抚，待时机成熟再慢慢裁撤。”刘备摇头道：“下邳太守曹豹、中郎将申耽、别部司马章诳等人对我十分忌惮，如果留他们继续掌兵，不利于徐州稳定。我打算将他们外调，任命申耽为琅琊国相，曹豹为琅琊都尉，章诳为开阳县令，其余丹阳将领全部调到琅琊等地。”
陈登吃惊道：“主公打算借刀……？琅琊国相萧建割据自守，骑都尉臧霸、孙观等人也驻军琅琊开阳一带，不奉徐州牧号令。主公就不怕他们联手对抗咱们吗？”刘备冷笑道：“如果臧霸敢动手，我就有了理由讨伐他！”
不久萧建软禁了申耽、曹豹等人，臧霸软禁了章诳，纷纷拒不服从刘备号令，更不肯交出琅琊。刘备挥军两万直奔琅琊，命太史慈为先锋，张飞率军一万守下邳，关羽率军一万守小沛。
臧霸有两万大军，完全不把刘备放在眼里，挥军沿着沂水布防。刘备询问对策，司马陈登得意道：“臧霸的泰山军战力强悍，如果硬拼，必是两败俱伤，我建议智取。请主公派军挑战，然后诱敌深入，咱们三面包围，臧霸必败。如果他不肯上钩，咱们就声东击西，让他首尾难顾。”刘备又问诸葛亮，诸葛亮笑道：“不必，我凭三寸肉舌可说服臧霸来降！”
臧霸听闻刘备派钦使前来，犹疑不决，最后还是亲自出迎。见诸葛亮只有十五六岁，轻蔑一笑道：“刘州牧如此轻视我吗？你几岁了？”诸葛亮大笑道：“骑都尉难道要以年龄论英雄吗？当初楚霸王项羽攻破彭城，发誓要鸡犬不留，且派人把十五岁以上的男子全部抓捕，打算坑杀。百姓人心惶惶，无人敢求情。外黄县令门客的儿子济世得知后，亲自前往劝说。项羽见他只有十三岁，十分不屑。不料济世一番话说得项羽哑口无言，最终赦免全程百姓。”
臧霸疑惑道：“他说了什么？你可不要唬我！”诸葛亮拱手道：“骑都尉聪明过人，我岂能瞒得过骑都尉？当时济世扬声道，当初外黄人不得已，这才投靠彭越，之所以忍辱偷生，正是为了等待大王解救。如今等到了大王，却要被坑杀，全城百姓岂不寒心？试问今后百姓还有敢归顺大王的吗？如果从彭城往东十几座城邑的百姓全部誓死抵抗，大王如何平定天下？”臧霸肃然起敬，叹息道：“好厉害的少年英雄！”