通用电气公司早在其成立之初，采取的是所有权与经营权相分离的现代股份制企业形态。后来，公司的巨大发展已经突破了少数派股东支配的阶段，进入了经营者支配的阶段。在这个阶段中，以讲究功能、工具理性为核心的管理组织逐渐体系化、官僚制化，官僚制的管理目标在于使整个组织系统维持协调运行。
但是，这种管理制度本身却包含着一些非理性成分。例如，分级审理原则的贯彻，必然会带来陡然增多的文件数量，可能会使文牍主义风气蔓延；强调履行职务活动必须在文件形式上齐全的过分求全态度，反而会使处理公务的效率降低；法规明确规定了官员的权限和职责，又可能产生对管辖以外的事情漠不关心、互相推诿，本位主义和宗派主义的消极现象；处理公务严格按照规章制度，意味者人际关系为竞争的关系而不是合作关系，这可能会带来官僚式的冷漠态度等等。在这个意义上，“官僚制”与“官僚主义”密不可分，它们之间的界限难以划分，官僚制是孕育官僚主义的温床。
那时候不只是通用电气如此。通用电气内部的诸多管理层次和管理系统的设置，是大公司演变的典型结果。一般人似乎都把复杂视为成长的必然结果。韦尔奇形象地解释说：“公司像大楼一样，变大之后就要加盖楼层。加地板、加墙壁。我们都会增加部门——运输部门、研究部门。这就是复杂，这就是墙壁。我们所有人的任务就是要铲平这座大楼，拆光这些墙壁。如果我们做到了这点，那么就会有更多的人来为公司需要做的业务提出更多的好建议。”
通用电气公司的前几任董事长都能清醒地看到这种职能的负面功能，积极进行改进。为适应世界经济竞争和公司规模扩大的形势，通用电气的组织机构几经改革。50年代初，它采取了一些措施，使低级的管理环节（即生产部门）的权限有所扩大，但也造成过于分散的弊端，使机构重叠、复杂。60年代，又重新集中了某些职能，加强了“参谋部”机构的作用，取消了一些中间环节，特别强调大力发展“战略计划”制度。70年代初的改组，其主要任务是加强长期计划的作用，在生产集团、部门一级建立了43个战略计划中心，专门从事研究新产品、扩大投资、吞并其他公司以及消除某些产品亏损等问题。
毫无疑问，从60年代的分权管理发展到70年代的战略性计划的制定，这种管理制度的演变适应了通用电气规模不断扩大和经营多样化的发展，因而带来了极大的利益。然而，所有这一切努力并没有从根本上防止通用电气染上了不少“大企业病”。
与当时的其它大公司一样，通用电气有着更加严明的组织层级，与其说它像一个大公司，倒不如说它更像一个行政机关，总共有29层，并且有着数百计的层级——从实验室到一个小组，到一个分支，到一个部门，再到一个大的部门和集团，可是这些过多的层级已经使公司变成了一个正规而又庞大的官僚机构。
就公司的组织机构设置情况来说，1980年，通用电气公司由64个事业部组成，从上到下最起码设有五个管理层次，即公司—→区域部—→事业部—→事业分部—→工厂。
如果再细细地深入考察各个管理层内部的组织系统，管理层次更多。由于机构庞大、层次多，公司的力量很难凝聚，决策和贯彻过程复杂、历时长，难以适应瞬息万变的市场竞争的需要。
韦尔奇在通用电气发现了很多的“墙壁”。他说：“我愈往通用的大单位走，就发现愈多的官僚，各式各样的阶层。这些可都不是友善的。他们都很严肃，各有各的地盘、圈圈。但做生意不应该是这样，做生意应该是有很多点子、很多乐趣、很多令人兴奋和值得庆祝的东西。”
据说，在韦尔奇接任总裁时，在通用电气公司的40万名职工中，有正式“经理”头衔的便多达25000人，平均算来他们每人直接负责7个方面的工作，在这个等级体系中，从生产的工厂到韦尔奇的办公室之间竟然隔着12个之多的层级，有130多名管理人员拥有副总裁以上的头衔。这一大群上司们基本没做什么事，只是紧盯下属罢了。
理论上来说，为了保证公司正常的经营运作，这种监督的行为是必要的。然而，实际情形却是，经理们花费过多的时间在填写例行的报告，同时向更资深的经理推荐他们的计划书。另外，由于需要“管理”，各级主管每天便忙着检查下属的工作情况，而各级管理人员却把大部分时间都用在撰写例行报告和对他的上司提出各种计划。
此外，通用电气在整个美国还设有8个地区副总裁或称“用户关系”副总裁，但这8个副总裁对销售却并不直接负责。当时的通用电气公司管理结构形成的官僚体制非常庞大－－今天的通用电气规模比当时扩大6倍，但只增加了大约25％的副总裁，而经理人员数量比当时还有所减少，现在平均每名经理直接负责15项工作，在一般情况下，从生产车间到韦尔奇的CEO办公室之间仅隔了6个层级。由此可见，当时通用电气的管理已到了非变革不可的程度，如此庞大而臃肿的机构造成公司管理阶层官僚作风盛行，办事效率极其低下。
一次，一项由下层管理人员提出的一项非常好的建议报告呈放到了韦尔奇的面前，但是当他看到上面已经通过了将近20名中高级公司管理人员的签名时，心里的感慨可想而知：如此繁琐的程序，怎能抓得住商机？韦尔奇痛下决心一定要拆除这些“墙壁”。
主管零件制造的副总裁柏克生动地描述了那时的情形：“我当时是在涡轮机事业单位里任职，那也是我第一次参加策略规划工作。我们有一大群人一块儿完成了一本很厚的计划书。我们把它向上呈报，经过事业部行政主管、副董事长，最后送到琼斯手中。计划书包括3年、5年及10年的计划。记得在一次高级主管的会议上，有人问我对涡轮机事业前途的看法，我用了10分钟的时间，清楚地陈述了这个事业的策略规划内容。讲完后，有人说道，‘我想，你只须让我们看看有关这个事业的策略规划书就可以了’。我心里想，‘去你的，还真要啊！’接着我把那本厚厚的计划书捧给在那里的一伙官僚看。”
事实上，最初策略规划与层层管理的理念，听起来相当键全，当时层层管理并不是糟糕的字眼。按照自1976年起就成为通用电气董事的格曲德·密雪森的说法：“层层管理代表一个企业有组织、有纪律，你有上司，他有上司，别人也有上司，你通过一层一层不断往上报告，这便形成了一个有条不紊的企业经营管理方式。”
然而，杰克·韦尔奇对过去通用电气的每个阶层皆须进行策略规划非常不以为然，他强调：这个方法一点也不灵活，只会让事情进行得更慢，它无法让经理人很快发现问题所在。这种强调策略性规划、控制，与一切按手续来的方式，只会侵蚀像通用电气这类大型公司的企业精神。这正是韦尔奇最烦心的事。
当韦尔奇前任的两位总裁包士与琼斯，将通用电气的事业重组成43个策略性单位时，照理说命令控制功能应该大幅增强才对。但是，新加入的财务兼企划幕僚阶层，却导致了行政主管间彼此相互的命令与控制，反而没有时间去判断公司的绩效。
这就是说，“策略规划”后来偏离了琼斯的初衷，演变为重视形式甚于实质。结果是，不仅公司的决策形式化和复杂化，还扼杀了通用电气内部的企业家精神，各级经理似乎都把阅读和撰写“备忘录”看作自己每天最重要的工作。
如此的管理体系！也许吧，它似乎保证了通用电气按部就班的运行，但同时，也意味着管理人员整天应付堆积如山的“文件”和忙于向上级推销自己的报告和计划的“现实生活”。
杰克·韦尔奇认为，决策体系在最初引进公司的时候，十分富有活力，但是随着时间的推移，决策体系的流程却变得越来越繁琐，他说：“我们聘用一名企划主管，之后，他再雇佣两名副主管和一名企划专员，于是企划报告越来越厚，内容越来越多，排版越来越复杂，插图也越来越精美。会议的规模也越来越大，结果便是一团嘈杂之后，毫无结果的会议。想想看，16个人或是18个人坐在一块儿，谁能说上话？”
真是文件堆积如山，永无止境啊！于是，人们不再有时间去做全局性的思考。整个组织陷入严重的官僚主义的禁锢之中。写会议纪要成了通用电气的一种生活方式。而各级管理人员更是练就了一身“呈递纪要和报告”的高超本领，于是，上层领导除了错误地做出“自己只要读报告就可以了”的结论之外，别无选择。
组织扁平化
尽管通用电气的组织层级体系保证了各项工作的有序执行和有据可查，但是这就足够了吗？杰克·韦尔奇下决心，坚决剔除层层繁复的管理层级。他把这个过程称之为“组织扁平化”。
其实，对于通用电气公司组织结构的这些弊端，公司内部早就有人察觉到，但并没有采取实际行动。据说，在董事会讨论琼斯的接班人时，有的董事指出：“世界的变迁实在太快，超乎我们的想像。我们过去20年干得不错，但这并不意味着我们未来还能按照原先的步调。我们要做若干改变，才能适应新的环境。”
韦尔奇果然不负众望，他发现臃肿的办事机构是妨碍公司效率提升的重要原因之一，便决心要压缩管理层次，消除事业单位与高级管理阶层之间的沟通障碍。一时之间，各种批评纷至沓来，诸如革除管理层级会降低通用电气命令—控制系统的威力，会使公司受到损失等等。面对舆论的指责和不理解，杰克·韦尔奇坦然处之。
“凭我个人的力量，根本无法消灭通用电气多年固有的命令－控制系统。我们所想要做的，无非只是消除这个体系中的命令部分，却设法保住以往的控制效果而已。大企业中，特别容易滋生那些依附着官僚体系为生的人，这些人总是试图掩盖发生的情况和事实的真相，却从不勇于承担责任。现在，我们要做的，就是把员工从这样的机制中解放出来，赋予他们足够的自由，以及对自己的成功与失败负责任的权力。只有这样，员工的积极性才能够被充分地调动起来。难道你不觉得现在的通用电气毫无工作热情可言？一份让人压抑的工作难道会是个理想的工作！那些在官僚体系里游刃有余的某些人，一旦独立承担工作和责任，只会让大家看到他们原形毕露。”
韦尔奇按照产品的性质或地区分布，重新划分过去设置于事业群之中的64个事业部，于1984年组成38个战略经营单位，并于1987年进而合并成为14个产业集团。
通过这种改组，通用电气公司的每一个产业集团几乎都可以为用户提供成套产品。例如能源设备集团，可以提供从发电、输变电一直到控制设备的所有电站和变电站成套设备，因此成立产业集团，将工厂的销售业务集中到集团一级，就可以向用户提供成套设备、成套服务，方便用户。市场开发部门可以带着成套的产品去开发市场，同时向�