进驻乘氏（今山东巨野西南）。
此时，徐州牧陶谦已死，曹操获悉后，打算趁机夺取徐州，再回军消灭吕布。荀彧劝阻说：“昔高祖保关中，光武据河内，皆深根固本以制天下，进足以胜敌，退足以坚守，故虽有困败而终济大业。将军本以兖州首事，平山东之难，百姓无不归心悦服。且河、济，天下之要地也，今虽残坏，犹易以自保，是亦将军之关中、河内也，不可以不先定。今以破李封、薛兰，若分兵东击陈宫，宫必不敢西顾，以其闲勒兵收熟麦，约食畜谷，一举而布可破也。破布，然后南结扬州，共讨袁术，以临淮、泗。若舍布而东，多留兵则不足用，少留兵则民皆保城，不得樵采。布乘虚寇暴，民心益危，唯鄄城、范、卫可全，其余非己之有，是无兖州也。若徐州不定，将军当安所归乎？且陶谦虽死，徐州未易亡也。彼惩往年之败，将惧而结亲，相为表里。今东方皆以收麦，必坚壁清野以待将军。将军攻之不拔，略之无获，不出十日，则十万之众未战而自困耳。前讨徐州，威罚实行，其子弟念父兄之耻，必人自为守，无降心，就能破之，尚不可有也。夫事固有弃此取彼者，以大易小可也，以安易危可也，权一时之势，不患本之不固可也。今三者莫利，愿将军熟虑之”（《三国志&；#8226；魏书&；#8226；荀彧传》）。曹操采纳荀彧的意见，放弃进攻徐州的企图。抓紧战机，收割熟麦，储存粮秣，积蓄实力。
不久，曹操少胜多，大败吕布，吕布连夜弃营撤往徐州。曹操乘胜攻取定陶城，并分别派出部队收复兖州各县，兖州遂平。此战的获胜，对曹操以后统一北方，成就大业，具有重要的意义，荀彧功不可没。
建安元年（196年），随曹操击败黄巾军。七月，汉献帝刘协在杨奉、董承等护卫下，从长安（今陕西西安西北）返回洛阳（今河南洛阳东北）。在要不要奉迎天子建都许昌的问题上，曹军内部发生了争执。多数人不同意迎接献帝，理由是“山东未平，韩逼、杨奉新将天子到洛阳，北连张杨，未可卒制”（《三国志&；#8226；魏书&；#8226；荀彧传》）。
荀彧则对曹操说：“昔晋文公纳周襄王，而诸侯景从；高祖东伐为义帝缟素而天下归心。自天子播越，将军首倡义兵，徒以山东扰乱，未能远赴关右，然犹分遣将帅，蒙险通使，虽御难于外，乃心无不在王室，是将军医天下之素志也。今车驾旋轸？义士有存本之思，百姓感旧而增哀。诚因此时，奉主上以从民望，大顺也；秉至公以服雄杰，大略也；扶弘义以致英俊，大德也。天下虽有逆节，必不能为累，明矣。韩暹、杨奉其敢为害！若不时定，四方生心，后虽虑之，无及”（《三国志&；#8226；魏书&；#8226；荀彧传》）。
曹操认为荀彧之言有理，遂应安集将军董承的秘密召请，亲率大军进抵洛阳，被任命为司隶校尉，奉迎献帝迁都许昌（今河南许昌东）。曹操被封为大将军、武平侯，荀彧也升为汉侍中，守尚书令。从此造成曹操奉天子以令诸侯的战略优势，并为其此后统一战争（参见曹操统一北方的战争）的顺利实施，奠定了基础。
荀彧很少随军出征，而是“居中持重”（《三国志&；#8226；魏书&；#8226；荀彧传》），曹操虽然在外征战，但军国之事都由荀彧调度筹划。曹操问荀彧：“谁能代卿为我谋者？”荀彧说“荀攸（荀彧侄）、钟繇”（《三国志&；#8226；魏书&；#8226；荀彧传》）。荀彧善于举荐人才，起初举荐了戏志才，戏志才死后又举荐了郭嘉。此外，还举荐了陈髃、杜畿、司马懿等人，都是当时名士，只有严象和韦康后来叛乱，先后败亡。
自曹操迎天子后，引起了袁绍的不满。时袁绍雄居北方。曹操则东忧吕布，南拒张绣。建安二年（197年）正月，曹操南征张绣，大败而归。袁绍则更加骄矜溢，写信给曹操，辞语骄慢。曹操阅后大怒，诸将都说是作战不利的原故。钟繇因此问荀彧，荀彧说：“公之聪明，必不追咎往事，殆有他虑”（《三国志&；#8226；魏书&；#8226；荀彧传》）。见到曹操后，曹操将袁绍书信让荀彧观看，说：“今将讨不义，而力不敌，何如？”荀彧说：“古之成败者，诚有其才，虽弱必强，苟非其人，虽强易弱，刘、项之存亡，足以观矣。今与公争天下者，唯袁绍尔。绍貌外宽而内忌，任人而疑其心，公明达不拘，唯才所宜，此度胜也。绍迟重少决，失在后机，公能断大事，应变无方，此谋胜也。绍御军宽缓，法令不立，土卒虽众，其实难用，公法令既明，赏罚必行，士卒虽寡，皆争致死，此武胜也。绍凭世资，从容饰智，以收名誉，故士之寡能好问者多归之，公以至仁待人，推诚心不为虚美，行己谨俭，而与有功者无所吝惜，故天下忠正效实之士咸愿为用，此德胜也。夫以四胜辅天子，扶义征伐，谁敢不从？绍之强其何能为”（《三国志&；#8226；魏书&；#8226；荀彧传》）！
荀彧这番话虽然对曹操赞扬得过分了些，但总约来说，还是比较符合实际的。他不受表面现象的迷惑，能抓住事物刘本质来作分析，这是很不容易的。
曹操闻后大悦，荀彧还说：“不先取吕布，河北亦未易图也。”曹操说：“然。吾所惑者，又恐绍侵扰关中，乱羌、胡，南诱蜀汉，是我独以兖、豫抗天下六分之五也。为将奈何？”荀彧说：“关中将帅以十数，莫能相一，唯韩遂、马超最强。彼见山东方争，必各拥众自保。今若抚以恩德，遣使连和，相持虽不能久安，比公安定山东，足以不动。钟繇可属以西事。则公无忧矣”（《三国志&；#8226；魏书&；#8226；荀彧传》）。
建安三年（198年）五月，曹操大败张绣；十二月，曹军攻入下邳，诛杀吕布，平定徐州。建安四年（199年）四月，曹操派部将北渡黄河，击斩依附袁绍的眭固，攻占射犬（今河南武陟西北），控制河内郡（治怀县，今河南武陟西南）。由于曹操在内线作战中，集中兵力，各个击破，速战速决，逐步由弱变强，据有兖、豫、徐等州，为抗击袁绍集团准备了条件。
此时，袁绍击灭幽州公孙瓒，拥有冀（州治邺县，今河北临漳西南）、青（州治临淄，今山东淄博）、并（州治晋阳，今太原西南）、幽（州治蓟县，今北京城西南）四州之地，成为北方最强大的割据势力。六月，河北割据势力袁绍统带精兵10万，战马万匹，企图南下进攻许昌，以实现他“南据河，北阻燕、代，兼戎狄之众，南向以争天下”的目的。
围绕着是否抗袁的问题，在曹操集团内部又展开了一场辩论。名士孔融反对与袁绍抗争，他说：“绍地广兵强；田丰、许攸，智计之士也，为之谋；审配、逢纪，尽忠之臣也，任其事；颜良、文丑，勇冠三军，统其兵：殆难克乎！”荀彧则反驳说：“绍兵虽多而法不整。田丰刚而犯上，许攸贪而不治。审配专而无谋，逢纪果而自用，此二人留知后事，若攸家犯其法，必不能纵也，不纵，攸必为变。颜良、文丑，一夫之勇耳，可一战而禽也”（《三国志&；#8226；魏书&；#8226；荀彧传》）。一席话，坚定了曹操战胜袁绍的信心。
建安五年（200年），官渡之战之战爆发。九月，曹军军粮将尽，士卒疲惫，曹操写信给荀彧，准备退守许昌。荀彧回信说：“今军食虽少，未若楚、汉在荥阳、成皋间也。是时刘、项莫肯先退，先退者势屈也。公以十分居一之众，画地而守之，扼其喉而不得进，已半年矣。情见势竭，必将有变，此用奇之时，不可失也”（《三国志&；#8226；魏书&；#8226；荀彧传》）。曹操采纳其建议，继续坚守待机。不久，许攸家人犯法入狱，许攸怒而投奔曹操，献计偷袭乌巢。曹操遂以奇兵袭乌巢（参见乌巢之战），斩淳于琼等人，歼灭袁军7万余人，袁绍仅带800骑兵渡河北逃，从此一蹶不振。曹操最终取得这场战略决战的胜利，奠定了统一中国北方的基础。
而“审配以许攸家不法，收其妻子，攸怒叛绍；颜良、文丑临阵授首；田丰以谏见诛”等，和荀彧所预见的完全一样。
曹操取得官渡之战胜利，袁绍败退北走，遣军屯于仓亭（今山东阳谷境）。建安六年（201年）三月，曹操欲南击曾与袁绍结盟的荆州刘表。荀攸认为：“今绍败，其众离心，宜乘其困，遂定之；而背？克？、豫，远师江、汉，若绍收其余烬，承虚以出人后，则公事去矣”（《三国志&；#8226；魏书&；#8226；荀彧传》）。曹操纳其计，遂于四月挥军北进，扬兵于黄河之上；对驻守仓亭的袁绍军发起攻击，一举歼灭仓亭袁军。至此，袁绍主力丧失殆尽。九月，曹操班师返许（今河南许昌东）。次年五月，袁绍因兵败惭愤，呕血而亡。
建安八年（203年），曹操上表，封荀彧为万岁亭侯。正在担任尚书令的荀彧看到了曹操的表文。他非常谦虚，认为自己没有战功，把表压了下来。因此，曹操又写信给他说：“同你共事以来，你帮着纠谬辅政，荐举人才，提出计策，周密谋划，做得已很多了。立功不一定都靠作战，希望你不要推让。”荀彧这才接受万岁亭（在今河南新郑县内）侯的封爵。
建安九年（204年），曹操攻克邺城，领冀州牧。荀彧对曹操说：“宜复古置九州，则冀州所制者广大，天下服矣。”曹操将要从之，荀彧又说：“若是，则冀州当得河东、冯翊、扶风、西河、幽、并之地，所夺者众。前日公破袁尚，擒审配，海内震骇。必人人自恐不得保其土地，守其兵众也；今使分属冀州，将皆动心。且人多说关右诸将以闭关之计；今闻此，以为必以次见夺。若一旦生变，虽有（善守）（守善）者，转相胁为非，则袁尚得宽其死，而袁谭怀贰，刘表遂保江、汉之间，天下未易图也。愿公急引兵先定河北，然后修复旧京，南临荆州，责贡之不入，则天下咸知公意，人人自安。天下大定，乃议古制，此社稷长久之利也”（《三国志&；#8226；魏书&；#8226；荀彧传》），曹操从之。
当时荀攸为曹操谋主，荀彧与荀攸分主内外，“并贵重”（《三国志&；#8226；魏书&；#8226；荀彧传》）。荀彧将所赐之物皆散给族人和朋友，家无余财。曹操还将安阳公主许荀彧长子荀恽为妻。
建安十年（205年），河东叛乱，曹操让荀彧举荐贤才，荀彧说：“西平太守京兆杜畿，勇足以当难，智足以应变”（《资治通鉴&；#8226；卷第六十四》）。曹操遂让杜畿为河东太守。杜畿到任后，平定叛乱，广施仁政，在位16年，政绩获誉天下第一。
建安十二年（207年）三月，增荀彧食邑千户，前后共计二千户。还要授以三公（当时以太尉、司徒、司空为王公），荀彧使荀攸推辞十几次才作罢。
建安十三年（208年），曹操准备*刘表，问计于荀彧，荀彧说：今华夏己平，南土知困矣。可显出宛、叶而间行轻进，以掩其不意”（《三国志&；#8226；魏书&；#8226；荀彧传》）。曹操南征，八月，刘表病死，曹操遂得荆州。
建安十七年（212年），曹操欲进爵国公、加封九锡（九锡是古代帝王对大臣的九种赏赐，有车马、衣