求利玛窦把地图上的外文译成中文出版。知府王泮看了这张地图后，也吩咐利玛窦把图刻印出版。利玛窦与中国朋友一道，绘制了一幅比原图更大的地图，名为《山海舆地全图》，图上注有中文说明。后来王泮升任岭南道，当他收到利玛窦送去的《山海舆地全图》时，叹为古今奇观，立即分送远近朋友。利玛窦在肇庆还制造自鸣钟，把它送给王泮等官员。这样，利玛窦在肇庆有了朋友，有了保护他的中国官员，有了立足点。
1588 年，罗明坚回澳门，利玛窦独自留在肇庆。
1589 年8 月3 日，新任两广总督刘继文欲强夺仙花寺，限利玛窦三日内离肇庆去澳门。后刘继文又因担心强夺番僧寺院会引来弹劾，故又把利玛窦召回，并答应利玛窦去南雄的请求。1589 年8 月15 日利玛窦乘船先至韶州南华寺暂住，同行者有麦安东。
在韶州，利玛窦等受到了友好的接待，韶州同知吕良佐还答应他们可在当地光孝寺旁的一块空地上修建天主教堂。1590 年秋，教堂建成，利玛窦在这里安顿下来，一时未再提起去南雄之事。这是利玛窦在中国传教的第二个立足点。
万历十九年（1591）正月初一，利玛窦正式接纳钟鸣仁、黄明沙两名青年加入耶稣会，他们成为中国第一批耶稣会士。
在韶州利玛窦招收的第一个学生是瞿汝夔。瞿汝夔，字太素，生于1549年，为礼部尚书瞿景淳之子，江苏常熟人。幼读群书，但无意仕进。父亲去世后，携妻周游各地，访学炼丹术。1589 年秋，他在肇庆见过利玛窦。当他得知利玛窦定居韶州时，即从南雄赶来，拜利玛窦为师，学习天文、算术。利玛窦以克拉维斯的著作为教材，先教给他欧洲的实用算术，后教星盘原理，最后教欧几里得几何学。瞿学习两年，译有《几何原本》第一卷，还学会制造地球仪、星盘、象限仪、罗盘、日晷等。这些仪器有木制的、铜制的，还有银制的①。
次年正月，利玛窦在瞿太素的陪同下来到南雄，除了与官员打交道外，也与平民百姓交往，宣讲教义，做弥撒，吸引了很多人。特别是南雄富商葛盛华（译音）入天主教后，刊印了各种介绍基督教教义的小册子，广为散发，扩大了利玛窦传教活动的影响。
瞿太素曾对利玛窦谈起，穿僧服称僧名在中国并不受人尊敬，且易引起误会，利玛窦也有这种感受。于是在1594 年11 月，他与郭居静经范礼安批准，始留须发，改戴儒冠，穿儒服，见客时执秀才礼，同时更加努力研读中文书籍，练习中国书法。在他们看来，中国非常尊重读书人，这样穿戴对传教是很有益处的。
① 参见刘俊余、王玉川合译：《利玛窦全集（1）——利玛窦中国传教史》，台北光启出版社1986 年版，第206 页。
1595 年5 月，利玛窦通过给兵部侍郎石拱辰的儿子治病的机会，随石拱辰到南京。当时朝廷对私通外国人是很敏感的，利玛窦满怀希望去拜见的南京工部侍郎徐大任，徐却因担心受到怀疑而将他逐出南京。他不得不暂时退往南昌。
在南昌，利玛窦遇见了一个曾做过韶州官员的友人（德礼贤认为可能是韶州同知李春和），并经这个友人的帮助在南昌城外租房住下。江西巡抚陆万垓早就听说过利玛窦的事迹，很敬重他，并挽留他在南昌居住。此后，他又与建安王朱多■、乐安王朱多焿有了较密切的交往。利玛窦于万历二十三年（1595）冬，著《交友论》，绘世界舆图，并用西洋装订法装订成书，又造时钟、地球仪等。次年夏，又著《西国记法》，分别赠送给建安王和陆万垓等。利玛窦还积极与当地文人交往，在谈经论学中提高了自己的声望。为了传播教义，利玛窦曾向这些文人学者出示《天主实义》一书手稿，人们劝他刻板刊行。但利玛窦觉得还不成熟，直到1603 年才在北京刻印。
1596 年冬，范礼安神甫任命利玛窦为耶稣会中国传教团监督，赋予处理中国事务的全权。并要他尽一切努力在北京开辟居留点，以便接近皇帝，争取中国皇帝的支持。范礼安甚至把赠送皇帝及大臣的礼物也运到了江西，其中有圣母像、天主像、自鸣钟等。
利玛窦接到范礼安的指示后，立刻寻求接近皇帝的方法。他先想走建安王的门路，不久发现此路不通。1598 年6 月底，利玛窦随南京礼部尚书王忠铭离开南昌，7 月初抵达南京。应天巡抚赵可怀是王忠铭的好朋友，听说王忠铭回南京，遣人送上礼品，其中有一幅拓印的《山海舆地全图》。王忠铭看到了这幅图与利玛窦准备进献给皇帝的舆图极为相似。经与利玛窦印证后，便告诉赵可怀，绘图的人已到南京。赵可怀是从镇江知府王玉沙处得来的舆图，非常赞赏，把它刻在苏州石碑上，并附有跋语，拓印下来赠送友人。知道利玛窦正在南京，便盛情邀请他到自己的驻地句容游览，并讨论了数学问题，还请他制造历算仪器，但因利玛窦要去北京而未能实现。
辞别赵可怀后，利玛窦继续与王尚书的家人一起乘坐行李船由水路北上，经扬州、淮安，济宁、临清，入直隶，抵天津，9 月17 日进入北京城。王忠铭原想进京后会升官，但事与愿违，没有升迁，一个月后返回南京。利玛窦此后租房住下，积极向各方面活动，希望皇帝能够召见，恩准留居京城。可是，他所认识及王忠铭介绍的官员，都不肯在家里接待他。王忠铭介绍的太监见无馈赠，也拒绝帮助。各方面均闭门谢绝，利玛窦无法，只好雇船返回南京。1599 年2 月6 日抵南京。在这段时间内，利玛窦把“四书”译成拉丁文，还加有许多注解。
1599 年，利玛窦在南京常相过往的人有王忠铭、瞿太素、刑部侍郎王明远、刑部尚书赵参鲁、户部尚书张孟男、礼部侍郎叶向高、国子监祭酒郭明龙、翰林院编修杨荆岩、工部员外郎刘冠南与著名学者焦竑、李贽、李本固等。刘冠南帮助利玛窦购买了中意的房子，作为新居和教堂。在教堂内展览了准备向皇帝进贡的物品，以此来吸引南京的官员和名士参观。乘此机会，利玛窦向他们讲授西洋学术，如天算、测绘地图、地圆说等，介绍西洋风俗，解说天主教教义。又取出自造的“天球仪”、“地球仪”、“象限仪”、“纪限仪”给参观者讲解。当利玛窦参观南京观象台时，发现那里也有不少天文仪器，如“浑天象”、“玲珑仪”、“仰仪”、“简仪”等。他不但知道这些仪器的用法，而且指出它们有什么缺点，使听众折服，张养墨等主动拜他为师，向他学习数学和天文知识。
南京刑部主事吴中明见到王泮刻印的《山海舆地全图》后，认为图上说明文字太少，于是商请利玛窦加以修订并另绘一幅较大的舆图，增加说明文字，还亲自写了一篇序文，刻石印制发行全国各地，该图甚至流传到澳门和日本。贵州巡抚郭子章则把《山海舆地全图》缩小，改以书籍装帧，名为《古今郡国名类》。
在南京，利玛窦不时宣讲天主教教义，并接受了一批信徒入教，但他更关心的是教会在整个中国的发展。1600 年4 月间，利玛窦与郭居静、庞迪我、李心斋、瞿太素商量去北京进贡的事，请南京礼部给事中祝石林发给去北京的路票，庞迪我陪利玛窦一同前往。祝石林又把利玛窦介绍给押送马船的刘太监，以便乘船北上。利玛窦于5 月18 日由南京启程。到山东济宁时，得到漕运总督刘东星和李卓吾的热情招待，刘、李二人又帮助他重写进贡表章，又写了几封介绍信，使利玛窦的船顺利通行。到山东临清时，遇上了皇帝派遣的税使马堂，刘太监为了及时赶到北京，摆脱马堂的纠缠，便把利玛窦之事告知马堂，说这些人带了许多新奇贵重的西洋物品，这当然是一种诱惑。马堂到船上看了贡品，表示很满意，答应立即上奏北京，实际上却想设法攫为己有。由于临清道钟万禄等当地官员的帮助，才未使马堂的贪欲得逞。利玛窦乘坐马堂的船到了天津，等候圣旨。几天之后，皇帝指令马堂办理进贡的事。此后又几经周折，在天津等了半年，利玛窦才获准进京，于万历二十八年十二月二十一日（1601 年1 月24 日）到达北京。第二天便由太监将贡品送进宫内。这些贡品有：耶稣像、圣母像、圣经、十字架、大小时钟、三棱镜、洋琴、《世界现状》、万国图、粗羊毛布、印度布、玻璃器皿、日晷、沙漏、犀角、银币等。
在北京，利玛窦最初住在宫门附近，后又住钦天监，随时候命进宫修理自鸣钟及洋琴。后来因礼部干预，又搬到四夷馆，行动颇受限制，难以留京久住。但由于神宗很喜欢自鸣钟，且担心利玛窦离开北京后无人修理，故礼部侍郎朱国祚三次上疏要求遣送利玛窦出京的奏折，均未批复。后又在吏部给事中曹于汴的帮助下，礼部准许利玛窦搬出四夷馆，租房居住。利玛窦迁出后的第一件大事就是上疏皇帝，请求批准他在北京或其他地方居住。不久，太监传下皇帝口谕，允许他们住在京城里。
定居北京后，利玛窦结交了许多皇亲国戚、高官显宦，而在学术上交往较多的则有著名学者冯应京、李之藻和徐光启等。定居北京六年，利玛窦不敢建造天主教堂，避免引起疑忌。他只租用平房，开展传教活动，并吸收信徒入教。万历三十三年（1605）八月间，才在顺承门（今宣武门）附近购得一所大宅，修建礼拜堂，作为北京会所。从此，天主教在中国开始站住了脚，打开了局面。
1610 年5 月3 日，利玛窦一病不起，于5 月11 日病逝。神宗批准礼部奏请赐地，将利玛窦安葬在北京阜城门外（今二里沟）的一处由寺院改建的墓园。
对中西文化交流的贡献西方传教士来华传教的根本目的，不仅是传播宗教，而且是为殖民者收集中国内地情报，为其侵略扩张政策服务。教士们的活动受到殖民者的操纵控制，其活动经费则由殖民者资助。利玛窦也不例外。利玛窦为了要达到在中国长久居留获准传教的目的，费尽了心机，从澳门到北京，他花了十八个年头，走了一段艰苦的历程。他从实践中摸索出了一条打开中国大门的路子，归纳起来主要有下列手段：一是学习中国语言文字，掌握基本的交往工具。经过多年努力，利玛窦不仅能说一口流利的汉语，而且能用中文撰写文章和著作。
二是深入了解中国的民情风俗，并尽量按中国的风俗习惯活动。最初，利玛窦以为和尚是中国人所崇拜的，所以他削发为僧，披袈裟。结果和尚装束不但不受人尊重，反而招来了麻烦。他及时吸取教训，改成儒者装扮，头戴方巾，身穿儒服，自称道人，行秀才礼。这一招符合中国国情，尤其适合士大夫的口味，受到中国人的尊重。
三是走上层路线，竭力拉拢和投靠上层统治者直至皇帝。他摸准了中国高级官僚的脾气，“一旦发现外国货质量更好，就喜欢外来的东西更甚于自己的东西”。①因此，每到一地，故意赠送或展览陈列当时中国没有或者比中国质量更好的西洋物品，打动那些贪财官吏及皇帝的心，从而在中国统治阶级内部找到保护人，站稳脚跟。
四是利用传播西方科学技术这个手段，笼