古田会议召开前后，是红四军部队建设的重要时期，党代表在这段时期起到了十分重要的作用。毛泽东在《井冈山的斗争》一文中指出：“事实证明，哪一个连的党代表较好，哪一个连就较健全，而连长在政治上却不易有这样大的作用。”毛泽东在这里对连队党代表的作用作了很高的评价，而罗荣桓正是毛泽东经常称赞的一位党代表。他作为连、营党代表，以至后来担任红四军政委，在具体实践毛泽东所制定的方针政策方面，作出了忠诚的努力，其一贯表现和在古田会议前后的作用得到了毛泽东的称赞，大有相知恨晚之感。
力倡实行民主主义
1928年底以来，罗荣桓按照毛泽东的指示，扎扎实实做了大量的巩固部队方面的工作，其中很重要的一条是肃清封建残余，提倡民主主义，尊重士兵人格，不打骂士兵。在当时是一个创举。
红四军的主力二十八团和三十一团都是由国民革命军脱胎而来的。这些部队虽然经受了大革命的洗礼，但军官中军阀习气仍然相当严重。他们认为，“三句好话不如一个巴掌”，“马鞭子下面出好兵”。官长打骂士兵、老兵打骂新兵，几乎成家常便饭。罗荣桓对这种作风非常看不惯。参加秋收起义以来，他从来没有打骂过士兵。士兵有了过失，在批评时连重话也很少。他常常说：响鼓不用重锤敲。这一句话，他一直说到当了元帅以后。对下级和士兵，他总是循循善诱，耐心启发诱导。为了扭转打骂士兵的坏习气，他作为红四军三十一团三营党代表进行了不疲倦的斗争。
1928年初冬，三营驻在永新。一天傍晚，刮起了凛冽的西北风，气温急剧下降，池塘里结上了一层薄冰。九连四班放军士哨回来，因为没有拾柴草，无火可烤，大家都钻进稻草堆，一个个瑟瑟缩缩地当了“团长”，冻得怎么也睡不着。一位被俘虏过来的永新籍战士建议烧老乡一点柴草来烤火。班长黄永胜告诉他：“老乡的东西不能动！”这位战士耸耸肩，出屋去了。过了不一会儿，这个战士抱着一捆柴草高高兴兴地进了屋。他一面大声招呼大家来烤火，一面就抽出一把柴，蹲在地上烧了起来。黄永胜从稻草堆里坐起身来，责问他：
“你这柴禾是从哪里来的?”
这位战士抬起头，眨巴眨巴眼说：“是从老表院子里抱来的。”黄永胜没好气地说：“快给我送回去！”
这位战士没有理他，仍然蹲在那儿往火堆里加柴。
黄永胜猛然爬起来，几步走到这战士跟前，把他手中的柴禾一把夺过来扔到地上，再次命令他把柴禾送回去。这位战士仍然蹲在那里，呆呆地看着那快要熄灭的火堆，一动也不动。黄永胜火了，大声骂道：
“他娘的，你耳朵聋啦？”
这位战士不服，站起身来和黄永胜顶嘴。黄永胜感到触犯了自己的尊严，伸手打了他一个耳光。这位战士没有还手，捂着脸扭过头像孩子一样伤心地哭了起来。
第二天一早，雨仍然不住地下，天气阴冷而潮湿。罗荣桓打着雨伞，踩着泥泞来到九连。连长曾振平忙招呼他坐下烤火。罗荣桓听曾连长汇报了黄永胜打人的事，便命令传令兵去把黄永胜找来。
黄永胜进屋，看到罗党代表，拘谨地敬了一个礼。罗荣桓招呼他坐下，然后单刀直入地问他：“听说你昨天晚上打人啦?你何事打人啊?”
黄永胜辩解道：“那个战士违犯了群众纪律，又不服从命令，我才打了他一巴掌。”
罗荣桓边听边披上烤干的上衣。他耐心地听完黄永胜的话，说：“哦，这么说来你打人是对的喽。”他把手放在火上烤着，停了一会，又抬起头看看黄永胜，“我问你一个问题，不知道你想过没有。你当班长，如果不打人，有没有法子把全班带好?”
黄永胜答不上来。
“怎么?你没有想过吧?我再问你，如果你是当兵的，犯了一点错误，班长把你打一顿，你的心里会好受吗?”
黄永胜低下脑袋，一句话也说不出。
罗荣桓接着耐心地说：“毛委员再三讲，靠拳头来代替教育，那是不能解决问题的。同志们有了缺点和错误，要反复向他们讲道理，使他们明白为什么错了。要以理服人，不能以力服人。口服不如心服，只有心服了，才能自觉遵守纪律。你今后无论如何也不要打人了，你回去好好想一想，看看我讲的道理对不对。”
在罗荣桓的耐心教育下，黄永胜承认了错误。
罗荣桓离开九连后，九连的曾连长就曾因违犯群众纪律而被士兵委员会打了屁股。罗荣桓发现这一问题后，赶到九连来处理。这时，恰好士兵委员会又决定要打排长曹响的手板。
曹响原来是湘南起义农军的一个大队长，“八月失败”以后将他调到九连当排长。他认为这是降级使用，心里很不高兴。其实，因为他没有受过军事训练，当排长也是不太称职的。每逢他带操，口令总是喊不到点子上；做示范动作，连个“枪上肩”也做不好。他一带操，有些战士就忍不住要笑。他一见战士笑就骂，谁要不服就打，他还有一个毛病就是爱赌钱。在红军里既没有纸牌，也没有牌九，他赌瘾发作时就悄悄找几个人用一个铜板猜字背。曹响赌钱的事很快被士兵委员会发现了。士兵们早就对曹响的军阀主义不满了，这一回岂能轻轻放过。连士兵委员会决定，当众给他以打手心的处罚。
罗荣桓把士兵委员会的委员们找来开会。他仔细听取了委员们关于曹响情况的汇报，然后问大家：“官长打士兵对不对?”
大家异口同声地回答：“不对。”
罗荣桓点点头说：“是啊，官长打了士兵是要记过扣发零用钱的。官长打士兵不对，可士兵打官长难道就对吗?官长打士兵要受处分，士兵打官长就不受处分，你们看，这样做公道吗?”
一位委员嘟嘟嚷嚷地说：“可他赌钱啦！”另一位委员又补充了一句：“他动不动就吹胡子瞪眼睛，骂起人来可难听了。”
“那也不能打啊！”罗荣桓耐心地说，“无论是官长打士兵，还是士兵打官长，都解决不了问题嘛!他有缺点错误，大家可以批评他，教育他，为什么要打呢?你们这一打，他今后在连里还怎么工作？”
在罗荣桓的耐心说服下，九连士兵委员会撤销了打曹响手板的决定。
毛泽东在《井冈山的斗争》一文中写道：“红军的物质生活如此菲薄，战斗如此频繁，仍能维持不敝，除党的作用外，就是靠实行军队内的民主主义。”
