利马窦墓碑依照明朝的惯例，客死中国的传教士必须迁回澳门神学院墓地安葬。1610年5月利玛窦病逝于北京后，其他传教士和利玛窦受洗的教徒都希望可以得到皇帝的恩准，让利玛窦安葬于北京，藉此来认可教会和天主教在中国的合法存在。为此，耶稣会士庞迪我神父(Didace de Pantoja) 向万历皇帝上呈奏疏，希望能破例赐地埋葬利玛窦。庞迪我在奏章里称：

 　　“利玛窦以年老患病身故，情实可怜，况臣利玛窦自入圣朝，渐习熙明之化，读书通理，朝夕虔恭，焚香祝天，颂圣一念，犬马报恩忠赤之心，都城士民共知，非敢饰说。生前颇称好学，颇能著述，先在海邦，原系知名之士，及来上国，亦为缙绅所嘉？臣等外国微臣，悲其死无葬地，泣血祈恳天恩，查赐闲地亩余，或废寺闲房数间，俾异域遗骸得以埋瘗，而臣等见在四人，亦得生死相依，恪守教规，既享天朝乐土太平之福，亦毕蝼蚁外臣报效之诚。”

 　　虽然朝廷中有人反对，但该事在内阁大学士叶向高等人的多方努力下，还是很快得到了万历皇帝的照准。1611年，由徐光启主持，皇帝赐物利玛窦安葬于平则门外二里沟的滕公栅栏。教会无需付款便可拥有这份产业。至19世纪末，安葬于“滕公栅栏”的欧洲传教士已逾百名。1900年墓地被义和团砸毁。墓穴被掀，碑石被砸。其后清政府依《辛丑条约》出资重修了被毁墓地，而且还立了一块道歉的石碑。20世纪初此地已经成为天主教的公共墓地。墓地面积也不断扩大。至中华人民共和国成立，栅栏墓地已先后埋葬了数百名西方传教士，成为明清以来西方传教士在东方安息的一个最为集中的所在。1949年中华人民共和国成立之后，外国神父被迫撤离了中国，1954年，墓地内的墓碑只有利玛窦、汤若望、南怀仁三块依照国务院宗教事务管理处指示被保留在原地。文化大革命期间，利玛窦墓碑被平埋于地下让其“永世不得翻身”。1973年，马尾沟教堂被拆，墓碑无人照管。1978年10月，邓小平、李先念等五位中国中央领导批准重修利玛窦墓。1979年后墓地得到了修复，并列入了北京市文物保护单位。

 　　利玛窦墓现位于北京西城区官园桥附近的北京行政学院（中共北京市委党校）院内。如今公墓东边墓碑数十块。西边有墓碑三块：面向墓穴，中间为利玛窦，左右首分别为汤若望、南怀仁。利玛窦的墓碑上刻着“耶稣会士利公之墓”，有拉丁文和中文两种文字：

 　　“利先生，讳玛窦，号西泰，大西洋意大里亚国人。自幼入会真修，明万历壬午年航海首入中华行教。万历庚子年来都，万历庚戌年卒，在世五十九年，在会四十二年。”