人说，后来程敏政官至翰林院侍读学士，李东阳当了首辅，都兆于他们所对下联。①这种宿命的立论固然荒谬，但李东阳在官场上确实要自如得多。
在京师的庠学读了几年书，天顺八年（1464），十八岁的李东阳高中二甲传胪（二甲第一名），选为庶吉士。解馆后，授翰林院编修。成化十年（1474），升侍讲兼詹事府左庶子，十九年升侍讲学士。编修是正七品官，侍讲是正六品官，侍讲学士是从五品官，十九年中，品秩只升三级。地位显贵和初期升迁缓慢是明代翰林院官的两个特点。李东阳幸运的是，升侍讲学士后的第二年，被选为东宫讲官。受知于皇储和受知于皇帝一样，是进身的重要阶梯。成化二十二年（1486）底，李东阳的父亲李淳病故，他依制守孝。一年以后，即弘治元年（1488）闰正月，为修实录，吏部题，将在京住坐的纂修誊录官员移文行取。李东阳上一道奏疏声称右股及足为寒湿所侵，行步艰难，不便鞍马，需要在家暂行调理。是否真的有病，以及病情是否如此严重，暂且不说，上了这道奏疏，他终于争取到了三年守丧。这或许正是他的本来目的。弘治二年（1489），李东阳被起用，任左庶子兼侍讲学士。弘治四年（1491），因参与纂修《宪宗实录》，升太常寺少卿，仍兼前职，掌翰林院事。这时，他的官品和实际地位都有了较大的提升。
弘治五年（1492）到六年，各地相继发生旱灾。大臣们应诏进言，其中，李东阳的《应诏陈言奏》颇有些新意。他摘录《孟子》中的十条语录，即“至诚而不动者，未之有也，不诚未有能动者也”，“君仁莫不仁，君义莫不义，君正莫不正”，“《诗》云：‘经始勿亟，庶民子来’”，“不违农时，谷不可胜食也。数罟不入洿池，鱼鳖不可胜食也。斧斤以时入山林，林木不可胜用也”，“饥者易为食，渴者易为饮”，“仁政必自经界始”，“君行仁政，斯民亲其上，死其长矣”，“省刑罚”，“欲为君尽君道，欲为臣尽臣道，二者皆法尧舜而已矣”，“尊贤使能，俊杰在位，则天下之士皆悦而愿① 焦竑：《玉堂丛语》卷七《夙惠》。
立于其朝矣”，结合当时的实际情况，一一加以解说。①这份奏疏中确有空泛之言，但也相当尖锐地提出不少实际问题。如关于成化朝时盛行、弘治朝以来欲革未革的斋醮：“若斋醮之事，诳诞尤多，累月经时，幸亏一中。偶获者有赏，而不效者无刑，徒费赀财，复伤政体。。。请断自今日，凡事关祈祷，上涉于天，以经咒干赏赉者，并加斥绝，永不为太平圣治之累。”
关于农林渔业的萧条：“今天下民穷财尽，其势已极。始以三者言之：山东诸府，谷麦所宜，草根树皮掘食殆尽，继以人肉；荆沔诸府，鱼产极富，水竭鱼荒，河泊岁课，多所折纳；易州诸处，柴炭所需，林木已空，渐出关外一二百里。其他赋税大抵皆然。天下之地，无一处而不贫；万物之利，无一物而不尽。”
关于兼并问题：“臣窃见畿甸等处，奸民恶党，竞指空闲田地以投献为名。藩王世家，则行陈乞，每有赐予，动数百顷。得请之后，标立界至，包罗村落，发掘坟墓，诉讼之牒，缠绵数月；冤号之声，震动远迩。往年固有聚众持刀殴杀内使者。民心既失，国体又亏，上下之间，两无所益。”
关于滥用刑罚：“在外诸司或倚法立威，笞杖之罪往往至死，补立卷案，旁引医证，纵令事觉，不过以公还职，于是棰人重者为能吏，杀人多者为好官，习俗相承，日以弥甚。夫梃之与刃，刃之与政，其杀皆同。以极轻之刑，置之不可更生之地，伤天地之和，坏国家之法，莫有大于此者。”
关于官僚之间挟私相攻：“乃有或经按问，或经考核，或经纠劾，或经参驳，肆诋毁之辞，为报复之计。此风既行，渐不可长。况其所奏，多涉诬罔，上烦圣听，下骇物情，非圣世所宜有也。”
在李东阳议政的文字中，这份奏疏是代表作之一，他的“满腹经纶”在此有了生动体现。孝宗对他的这一番言论十分称赏。恰首辅徐溥等说，起草诏敕繁剧，宜有专人领其事。李东阳自然是最佳人选。弘治七年（1494），李东阳升为礼部右侍郎兼侍读学士，专典诰敕，虽还没有进入内阁，却已跻身于上层官僚的行列。自此以后，朝廷的重要文字，多出于他手。
次年，李东阳以本官直文渊阁参预机务。当时已在内阁的有徐溥和刘健，与他一起拜为阁臣的有谢迁，都是一时名臣。几年之后，徐溥因眼病致仕，在内阁者刘、李、谢三人，李东阳为次辅。这是“三杨”之后，内阁威望再度提高的一个时期。三人各有特长，按当时的话来说：“李公谋，刘公断，谢公尤侃侃。”①弘治年间的著名部院大臣，如吏部尚书倪岳、礼部尚书傅瀚、兵部尚书刘大夏、刑部尚书闵珪、工部尚书曾鉴、左都御史戴珊等人，都是天顺八年进士。李东阳为人又较平和，他与朝中大臣的关系更为密切。
弘治十一年（1498），李东阳晋太子少保、礼部尚书兼文渊阁大学士。
他借清宁宫灾，对一些流行的言论进行批驳：“或以天道茫昧，变不足畏，此乃慢天之说；或以天下太平，患不足虑，此乃误国之言；或以斋醮祈祷为弭灾，此乃邪妄之术；或以纵囚释罪为修德，此乃姑息之谋。”②显然，他重视舆论，而且很敏感。
弘治十二年为会试之年。大约四十年前的两位神童，李东阳和程敏政同① 李东阳：《文前稿》卷十九《应诏陈言奏》。
① 《明史》卷一八一《谢迁传》。
② 李贽：《续藏书》卷十一《李文正公》。
为主考。这本来可用来点缀盛世的，谁知发生了一起不幸事件：某给事中弹劾程敏政向江南才子唐寅和举人徐经漏泄试题。受命重新校阅试卷时，李东阳采取息事宁人的办法，把唐、徐两人排除在外。但言官不肯罢休，直到唐寅黜为吏，程敏政致仕。李东阳不取唐、徐二人，正是为了避免这一结局。既不能力辩同僚之诬，也不肯落井下石，大概就是李东阳的风格。
李东阳的另一份重要的疏章写于弘治十七年（1504）。因重建曲阜孔庙成，他奉命前往祀祭。来往途中，他看到“天津一路，夏麦已枯，秋禾未种，挽舟者无完衣，荷锄者有菜色”。他听说“江南、浙东流亡载道，户口消耗，军伍空虚，库无旬日之储，官缺累岁之俸”。人们在议论国家的各种弊端。而李东阳认为，最严重的问题是：“闾阎之情，郡县不得而知也。郡县之情，庙堂不得而知也。庙堂之情，九重亦不得而知也。”①上下隔绝，弊端是很难纠正的。孝宗称赞他“所言深切时弊，足见忧国至意”②。
孝宗还能容人言过，特别是对辅弼大臣很客气，君臣之间关系平稳。孝宗一死，形势即大变。李东阳的自我保护意识较强，这使他能够适应新的环境，也引起了同时代的人和后人对他为人的极大争议。
勉力撑持弘治十八年（1505）五月，孝宗去世，朱厚照即位，是为武宗。三位顾命大臣再次加以荣衔，已是少师兼太子太师的刘健加左柱国，李东阳和谢迁加少傅兼太子太傅、柱国。在这表面尊崇的同时，内廷和外廷对于权力的争夺正在激烈地进行。在一年多的时间里，以刘瑾为首的宦官集团和以刘健为首的官僚集团，都拼命对皇帝施加影响，以求得对局势的控制。
在正德元年（1506）十月以前，李东阳都是与刘健、谢迁站在一起，试图阻止宦官用事。二月，他们谈论盐法之坏极矣，又疏陈政令十失。六月，他们批评武宗，“近日以来，视朝太迟，免朝太多，奏事渐晚，游戏渐广”③。八月，武宗在暖阁召见内阁大臣，责问为什么不如数付给前往南京、浙江织造的太监盐引。李东阳回答：“此辈若得明旨，即于船上张揭黄旗，书写钦赐皇盐字样，势焰烜赫，。。所以不若禁之于始。”①当时传说，武宗在外朝的压力下，要逮捕刘瑾等八人，李东阳把这个消息泄露出去，使刘瑾等人先一步采取了行动。要说他有意结好刘瑾，显然根据不足。但李东阳与刘健、谢迁确实不同，当刘健、谢迁措词严厉地必欲置刘瑾于死地时，他的态度却比较暧昧。这种态度反映了相当一部分官僚的心理，兵部尚书许进就认为，“过激将有变”②。相对谨慎的态度，加上名气很大，“海内名士，多出其门”③。到十月，刘健、谢迁被勒致仕，单把李东阳留在了内阁。根据惯例，他成为首辅。处于这种尴尬的地位，很难说李东阳的真实想法是什么。但事关士大夫的名节，他必定要上疏求去：“臣等三人，事同一体，而臣独留，何以① 《明史》卷一八一《李东阳传》。
② 《明孝宗实录》卷二一二，弘治十七年闰四月辛酉。
③ 《明武宗实录》卷十，正德元年六月庚午。
① 《明武宗实录》卷十，正德元年八月戊子。
② 《明史》卷三○四《刘瑾传》。
③ 陈洪谟：《继世纪闻》卷一。
自容？不知何以为处。”④武宗和刘瑾不容他去官，反而晋其为少师兼太子太师、吏部尚书、华盖殿大学士。
在为刘健、谢迁饯行时，李东阳戚然涕下。刘健很有些鄙视地说：“何泣为？使当日力争，与我辈同去矣。”⑤听到同僚不肯谅解的责备，他只能默默无言了。
与刘瑾周旋是很艰难的。虽然刘瑾对他还算客气，但讨论起问题来，已经免不了声色俱厉，发现了工作中的差错，也免不了假以颜色。正德二年（1507）七月，李东阳检核《通鉴纂要》一书的错字，纠劾负有直接责任的五名官员。这本来是一件例行公事，刘瑾恣意扩大此案，受处罚者，夺俸五人，致仕十一人，削籍二十人。他的用意，是要把更多的官僚，包括李东阳本人，都牵连进去。为了应和刘瑾，李东阳干了一些损害自己形象的事情。如在刘瑾的奏疏上批答：“尔刚明正直，为国除弊。”①在敕封刘瑾父亲的诏书上说“积善以贻子孙，尝闻其语，扬名以显父母，今见其人”云云②。刘瑾在朝阳门外建玄真观，李东阳为他撰写碑文，极其称颂等等，这也是一种御用文学。
与刘瑾的亲信周旋也是很艰难的。刘健、谢迁致仕以后，焦芳、王鏊入阁。王鏊被认为是正人，但学究气似乎更浓，或因文人相轻，他与李东阳的关系不好，并在正德四年致仕。焦芳为人十分霸道，学识亦差，所以有人说：“不学如芳，亦学士乎？”他对刘健有怨言，竟然“于众中嫚骂”；他任吏部侍郎，对尚书马文升屡加姗侮；因对原阁臣彭华、谢迁不满，延及江西及浙江余姚人，肆口诟詈。③为了抵消焦芳的作用，李东阳引荐更能委曲求全、更善于应付宦官集团的官僚杨廷和入阁，“小有剂救”④。
张彩不但是刘瑾的亲信，而且是刘瑾“大敬爱”的人。他待人严厉，傲慢无礼。一次，李东阳和杨廷和亲至张彩府宅，邀他外出观花。张彩居然不肯露面，久之，派一仆人来说：“请先行，将后至。”李东阳无可奈何地对杨廷和说：“张乃以办事官待我曹。”⑤李东阳的这些表现，引起不少士大夫的反感。南京太常少卿罗玘是