成立中国人民公安中央纵队，是罗瑞卿担任公安部长之后，全力推进的第一项要务，因为它直接关系到中共中央和北平这座城市的安全。而与此同时，公安部的机构设置和机关组建，也在紧锣密鼓地筹建之中。

    1949年7月8日和7月29日，周恩来两次主持中共中央汇报会议。根据会议精神和总理的指示，以中共中央华北局社会部的全体人员，加上中共中央社会部的部分机构，作为组建公安部的基础，任命原华北局社会部部长杨奇清为公安部副部长，协助罗瑞卿工作。那么接下来，罗瑞卿最紧迫的工作是什么呢？要人。公安部筹建之初，干部，尤其是作为骨干的高级干部奇缺。为此，罗瑞卿报告中央军委，请求调军级干部五十名到公安部工作。对于这个请求，毛泽东没有批准。他对罗瑞卿说：你的胃口也太大了，一下子要五十名军级干部，我一个也不给。你要学南方人插秧，不要学北方人播麦子。用干部要少而精，不要一下子调许多人。

    根据毛泽东的这一批复，在筹建公安部的机构和人员配备上，罗瑞卿是力求精干。当然，毛主席不会真的一个军级干部都不给。

    经过周恩来总理的同意，公安部设立政治保卫、经济保卫、治安行政、边防保卫、武装保卫、人事六个局及办公厅。除政治保卫局局长，由公安部副部长杨奇清兼任以外，其他五局一厅的负责人，由一、二、三、四野战军调配军级干部担任。另外还从华北补训兵团、华北人民革命大学、苏南公学以及各地党委系统中，抽调出一批骨干和青年知识分子组建起精干有力的公安部。

    1949年10月15日，根据中央的部署，公安部召开了第一次全国公安会议。会议对当时全国的敌情作了分析和估计，并确定了公安机关的总任务和建国初期的工作方针。

    那么，公安机关的总任务是什么呢？罗瑞卿讲得很清楚：战争结束以后，国内阶级斗争最尖锐的形式，就是隐蔽斗争。同拿枪的敌人的斗争结束了，就得向不拿枪的或不公开拿枪的敌人作斗争。

    这次会议历时半个月，会议期间，毛泽东、朱德、周恩来、董必武等中央领导会见了与会人员并分别作了重要指示。其中，周恩来总理在10月30日与公安代表座谈时所讲的一番话，成为了至今公安工作的信条：

    “军队与保卫部门是政权主要的两个支柱，你们是国家安危系于一半，国家安危你们负担了一半的责任。军队是备而不用的，你们是你天天要用的。”

    国家安危，系于一半。周总理的话，不仅指出了全体公安人员担负的责任有多么重大，同时也显示出了中央对与公安工作的高度重视。