1940年，在太行山根据地合影。前排右起：聂荣臻、罗瑞卿、刘伯承、朱德、邓小平。
娼妓的存在是城市中社会丑恶现象之一。罗瑞卿决心切除这个毒瘤。他先从北京做起。1949年11月12日，他在北京市公安局集体办公会议上说，妓院是藏污纳垢、压迫妇女、损害社会健康的地方。妓院老板是城市的封建势力。“为了彻底消灭城市封建势力，解放妇女，建立一个健康的新社会，我们对妓院必须坚决封闭取缔，并依法惩办那些罪大恶极或有血债的妓院老板。”会上起草了向市人代会呈送的议案。11月21日下午，北京市各界人民代表会议做出封闭妓院的决定，当天下午5时30分，市公安局立即出动干警和公安总队官兵2400人，在市民政局、市妇联配合下，一夜之间将全市224家妓院全部封闭。妓女被送往妇女生产教养院，教养院对她们进行教育、体检、治病，然后对有家可归者遣送回家，有对象者助其结婚，其余的组织学习生产技术，让她们能够独立谋生；对454名妓院老板、领家，则集中清查罪行。
继北京后，全国各大中城市均相继开展了行动。当时妓院最多的城市是上海。1951年3月，罗瑞卿到上海视察工作，微服察访仍在社会黑势力控制下的“大世界”。当他看到每层楼站满了由老鸨看管的妓女后，激愤地说：“这些老鸨吸血鬼、这些流氓恶霸，统统要消灭掉。我们要从这些坏蛋手里解放那些不幸的人。”1952年4月至9月，上海市公安局在民政等部门配合下，采取多次行动查封妓院、取缔娼妓，并将“大世界”改造成健康的人民乐园。
到1953年，除西藏外，千百年来吃人的娼妓制度在大陆上被埋葬，解救了成千上万沉沦苦海的妇女。人民群众说：“旧社会把人变成了鬼，新社会把鬼变成了人。”
1952年12月毛泽东复信：“可能空降特务的山区，设立武装便衣侦察据点，专门对付敌人空降特务，没有事生产和学习，有事报信捉特务。”
罗瑞卿上任之时，正值年轻的共和国百废待兴、秩序尚未建立之际。敌对势力企图将新中国扼杀在摇篮之中，不断谋划暗杀和各种破坏活动，恶性案件时有发生。1950年9月，美军在朝鲜仁川登陆后，他们以为第三次世界大战快打起来了，蒋介石“反攻大陆”时机已到，组织了形形色色的地下军，委任了各路司令和大批的主席、专员、县长，潜伏的敌人也企图里应外合，准备美军到达后“接收”政权。他们在各地制造谣言，破坏交通，抢劫财物，焚烧仓库，杀害干部。统计资料显示，这一年，竟有4万名干部和群众积极分子被反革命分子杀害。国家部长级以上的领导人和重要的民主人士也全被列入暗杀名单。
10月9日，在中央一次研究抗美援朝问题的会议上，面对这些敌情，毛泽东问罗瑞卿，准备怎么办。罗瑞卿道：“现在反革命分子活动十分猖獗，人民批评我们宽大无边，要求我们镇压反革命。”毛泽东点点头说：“我赞成你们的意见。现在美国已经把战火烧到了我们家门口。我们要把房子打扫干净，以便更好地对付帝国主义。”毛泽东让彭真、罗瑞卿等连夜起草在全国范围内开展镇压反革命的群众运动的指示。10月10日凌晨2时，指示草稿呈送毛泽东，毛泽东只字未改，当日下发执行。“双十指示”要求全面贯彻党的“镇压与宽大相结合”的政策，重点打击土匪、特务、恶霸、反动党团骨干和反动会道门头子等五方面分子，“首恶必办，胁从不问，抗拒从严，坦白从宽，立功者受奖”，粉碎他们的复辟阴谋。
国民党特务机关退踞台湾后，组建了以美国为主导的特务统一体和环大陆的特务网。1953年，国民党专管心理作战的“第六组”和美国以“西方企业公司”为代号的心理作战机构联合组成了“心理作战部”。美国还向中国大陆直接派遣特务，尤以“44海外观测队”及“自由中国运动”活动最嚣张。
罗瑞卿根据中共七届二中全会精神，提出“我们要组织一个与隐蔽敌人作斗争的队伍”，“必须大力加强侦察工作，加强秘密的打入敌人内部的工作，加强秘密的专案侦察工作”。20世纪50年代，公安机关通过各种渠道，采取多种方法，对在大陆周边地区活动的国民党特务机构的动向，特别是重大行动的动向，能够大体掌握，及时防范，因而粉碎了一个又一个的暗害阴谋。
罗瑞卿对于图谋暗害的重要案件都是亲自处理，部署战斗，将企图到广州谋害叶剑英的赵一帆，企图利用旧关系伺机混入中央机关内部暗害中央领导人的高元龙，妄图在上海暗杀陈毅的刘金德等国民党杀手，一一侦破被擒。
1954年，台湾保密局和在台美国特务布置行动，特务段云鹏再次从台湾潜入北京，利用他熟悉中南海的地形和社会关系，企图行刺毛泽东、刘少奇、周恩来等党和国家领导人。段云鹏自幼习武，解放前曾是平津一带有名的飞贼，北平解放前夕，他在劝说傅作义走和平道路的前北平市长何思源家里安放定时炸弹，炸死何家一个女儿，何思源夫妇受重伤。1949年8月至1950年10月，他曾三次潜入京津地区，发展特务，组成特别行动组和情报暗杀团，策划了北京火药库爆炸案和天津无轨电车爆炸案。京、津两市公安局进行了大量调查，逐步清除了他的爪牙。1954年6月，段云鹏进入香港。罗瑞卿得悉后，指示必须严密布防，妥设圈套，将段匪诱而歼之。9月，段云鹏在一次偷渡失败后，放弃了再次偷渡的打算，在公安部门“内线”的诱导下，完全按照为其设计的线路潜入广州，落进预设的圈套就擒。罗瑞卿向毛泽东报告时，毛泽东说：“他不是飞贼吗？让他飞一个样子看看嘛！”
50年代中期，台湾特务机关在美国间谍机关的支持下，训练了数以百计的行动者，制定了各式各样的爆破计划，准备在“五一”、“十一”等节日到处搞破坏。罗瑞卿得悉后立即下令：“炸弹不准过韶关！”陆续运入大陆的定时炸弹和纵火器等400余件，行动特务600余人，或被捕获，或投案自首。有些特务不敢到大陆来，便在与大陆交界处的香港、澳门一侧引爆几颗炸弹，只要港澳报纸一登，就可向台湾特务机关“邀功请赏”。
朝鲜战争爆发后，美蒋特务机关为了搜集情报，不断空投武装特务。罗瑞卿向毛泽东写了报告，1952年12月毛泽东复信：“可能空降特务的山区，设立武装便衣侦察据点，专门对付敌人空降特务，没有事生产和学习，有事报信捉特务。”罗瑞卿立即部署反空降特务的斗争。公安部队在长白山、大小兴安岭、武夷山、天目山、十万大山、瑶山、大巴山、秦岭、川西北等地区，建立了154个武装便衣据点，发动民兵和群众，发现空降特务后，村村鸣锣报警，层层包围追捕，出动人员成千上万，包围圈达100余里，美蒋空降特务一落地就陷入人民战争的天罗地网，随降随歼。
1949年10月，周恩来叮嘱罗瑞卿要严密注意并防范敌人的暗害阴谋：“穷凶极恶的敌人，别的他们不能做，对暗杀，他们是能搞的。现在我们损失不得，都是党几十年培养出来的干部。”
新中国建立以后，国民党特务机构更加紧策划对中共党和国家领导人的暗害，“杀一部长级干部奖励十条黄金”。
1949年10月，周恩来就叮嘱罗瑞卿要严密注意并防范敌人的暗害阴谋：“穷凶极恶的敌人，别的他们不能做，对暗杀，他们是能搞的。现在我们损失不得，都是党几十年培养出来的干部。”毛泽东也提醒说，各种困难都要估计到，基洛夫、列宁被刺的事也可能有，但是要力争避免。
中央领导机关迁入北京后，社会情况更加复杂。罗瑞卿领导组建了警卫局和中央警卫团，规定其任务是以警卫中南海、毛泽东、党中央书记处、军委为重点，兼管中央级的机关及主要人员的警卫，既要保证首长的绝对安全，又要便于首长联系群众，基本要求是内紧外松。
为做好警卫工作，保证党和国家领导人的绝对安全，罗瑞卿耗费了巨大的精力，经常亲临现场部署。每逢党和国家召开重要会议，他常常通宵达旦工作。
对一些中央领导常去的地方，罗瑞卿都重点布置警卫工作。杭州的西湖，每年都有中央首长去。他指示：“一定要把西湖的水搞得像水晶一样清澈透明。”在他建议下，浙江省公安厅厅长兼任西湖区的区委书记。
每当毛泽东离京外出或在北京参加社会活动，罗瑞卿总是亲自部署警卫工作，大部分时间是亲自陪同。50年代，每年劳动节和国庆节，天安门广场白天要组织游行，晚上要开焰火晚会。节日前他都要开会部署警卫工作，行走路线、停车场都要用扫雷器探测，游行队伍一旦有事如何疏散，值班电话谁看守，沿途设一些什么岗，制高点如何控制，他都要亲自检查。毛泽东的车到达和离开，都由他开道，毛泽东到场后他就站在身后保卫。毛泽东常常说：“罗长子往我身边一站，我就感到十分放心。”“天塌下来，有他顶着。”
保障首长安全和不妨碍首长接近群众，这是警卫工作中经常碰到的矛盾，有时还弄得十分紧张。
1953年初，毛泽东南下视察长江，乘“长江”舰到了武昌。2月14日春节，车经蛇山黄鹤楼旧址，毛泽东突然让中途停车，下车向蛇山走去，在陈毅、罗瑞卿、杨尚昆、湖北省委第一书记李先念等陪同下登上楼。毛泽东旧地重游，眺望长江，伫立良久。下楼后，他走到一位卖油炸豆腐的老人的摊位前，询问价钱和生意如何，被旁边两位小姑娘认出来，激动地边拍手边喊：“毛主席！毛主席！”
她们的呼喊立即把人群吸引了过来。离得较近的人纷纷伸出手来要同毛泽东握手，毛泽东也把手伸了出去。这一伸，手就收不回来了。人越来越多，卖甘蔗的也不卖了，甘蔗抛撒了一地。大家不断地欢呼着“毛主席万岁”。罗瑞卿见势不妙，建议毛泽东回楼休息，等群众散后再走。毛泽东摆摆手，仍向山下走去，巨大的人流围着他涌动，包围圈越来越小。个子高大的罗瑞卿招呼比他还要高几公分的铁道部副部长武竞天，在毛泽东前面伸开双臂抵挡涌来的人流，陈毅等紧挨在毛泽东身后，卫士们又在他们身后手挽手形成半圆形的保护墙。罗、武两人一面开路一面喊：“同志们让开一点路，让毛主席走过去！”
毛泽东在大家护卫下，边走边向欢呼的群众招手。通往停车处的道路已是人山人海，罗瑞卿一看很难走过去，灵机一动，把毛泽东带到附近的轮渡码头，让卫士们拦住涌过来的人流。毛泽东上了轮渡，满头大汗的罗瑞卿心头一块石头才落了地，陈毅也说：“乖乖，今天差一点下不了黄鹤楼。”
类似情况，在南京中山陵、安庆一所中学门前都发生过，由于罗瑞卿的现场指挥和保卫人员的努力，每次都保证了毛泽东的安全。毛泽东在武汉、九江畅游长江，也是罗瑞卿布置试水和现场保卫。人们都称他是毛泽东的大警卫员。
1959年4月，罗瑞卿出任国务院副总理，5月任中共中央政法小组组长。四五月间，他奉中央之命，赴湖南视察钢铁生产情况，听说毛泽东想回老家韶山看看，便抽空到韶山去了一趟。去年他已来过一次，当时他找到韶山大队总支书记毛华林，要求查明韶山当地社会情况。这次他要求毛华林在毛泽东到达时做好治安保卫工作。他又亲自检查了毛泽东要经过的道路、要住的房子和肯定要去游泳的水库。
6月，毛泽东在视察了河北、河南、湖北之后到达长沙，罗瑞卿同毛泽东会合。在回韶山之前，毛泽东对他提了三个要求：“一、不要派部队去韶山，特别不要派公安人员去；二、给我行动自由；三、我要广泛接见群众。”幸好罗瑞卿已两次到过韶山，对保卫工作已心中有数。在韶山，毛泽东曾同上百名乡亲谈过话，同数千人握了手，罗瑞卿都在场，还陪同毛泽东在韶山水库游了泳。毛泽东看到罗瑞卿也下了水，高兴地说：“哦，你也会游泳了？”
