俄罗斯无产阶级作家协会机关刊物《十月》杂志的编委，一九三二年加入苏联共产党，同年，他写成了第二部著名的长篇小说《被开垦的处女地》第一部。
一九三○年，共产党员达维多夫奉党的派遣来到哥萨克地区的格内米雅其村，和这个村子里的党员、贫雇农一起，清算了富农，建立了集体农庄。《被开垦的处女地》第一部通过这一并不复杂的故事情节，十分及时而且比较真实地反映了布尔什维克党领导下苏联私有制个体农民走上社会主义集体化道路的过程。小说形象地揭露社会主义敌人公开和隐蔽的疯狂破坏活动，深入细致地描绘出中农梅潭尼科夫在集体化过程中犹豫矛盾的复杂心理。作者通过紧张的阶级斗争、生产劳动和爱情、家庭等多方面的艺术描写，使一些主要人物的性格既鲜明又富有典型意义。故事的开展既自然而又紧张，结构严密而紧凑，丝丝入扣。小说的语言也比较丰富、幽默，具有浓烈的生活气息。这部小说的缺点，是过份渲染集体化过程中的“左”倾错误和某些贫农积极分子的“落后”、“自私”，美化富农和荡妇鲁什卡的爱情纠葛，对达维多夫也是作者的介绍多于通过这个形象本身发展的具体描写，以致使这一重要人物艺术上略嫌苍白。
在《静静的顿河》中所显示的艺术才能，特别是《被开垦的处女地》的基本成功，提高了肖洛霍夫在苏联文学界的地位。他一九三四年出席全苏第一次作家代表大会，一九三七年当选为最高苏维埃代表，一九三九年出席苏共第十八次代表大会，同年还被选为苏联科学院院士。
反法西斯卫国战争时期，肖洛霍夫以《真理报》、《红星报》等的军事记者身份上前线，写了不少揭露希特勒法西斯的野蛮侵略罪行和反映苏联军民爱国热忱和英雄主义的杂文和特写。
总的讲，在斯大林领导的苏联无产阶级专政年代里，肖洛霍夫的文学创作，思想上和艺术上都是不断进步的，曾经取得一定的成绩。
一九五六年苏共第二十次代表大会以来，由于赫鲁晓夫、勃列日涅夫等人的多方拉拢，肖洛霍夫在政治上和文学创作上都发生了显著的变化。政治上，他吹捧新领导的政策、方针、路线是“一种沁人肺腑的活命泉水”，使得他“可以敞开胸襟轻松地呼吸”。在创作方面，他先后发表了《一个人的遭遇》（1956）、《被开垦的处女地》第二部（1959）和《他们为祖国而战》的部分章节（1969）等一系列作品，都是以卫国战争和农业集体化为题材，宣传某些符合政治需要的思想、观点。短篇小说《一个人的遭遇》写的是一个普通苏联劳动者在反法西斯卫国战争中的经历。作者在歌颂苏联人民的勇敢精神、反映法西斯侵略者给苏联人民带来惨重损失的同时，竟无视这场战争的伟大正义性质。小说通过主人公索科洛夫战前美满幸福的家庭生活和战后孤苦伶仃、漂泊流浪的鲜明对比，突出渲染战争，他借反映格内米雅其村集体农庄的巩固过程，不仅把共产党员达维多夫等描写成目光短浅、热衷于个人幸福的资产阶级庸人，而且让农庄的两位主要领导干部和潜伏的阶级敌人同归于尽。小说以极其伤感的情调结束，着力渲染刚刚实现集体化的社会主义农村不仅十分阴郁，而且前景惨淡。《他们为祖国而战》按照作者一九四二年开始动笔时的构思，是要表现苏联红军在卫国战争中的英雄主义。但长篇的主要部分始终没有问世，而在一九六九年发表的部分章节中，作者却借主人公在一九三九年到农村探亲休养的一段经历，以反对“个人迷信”为名，指名攻击斯大林从三十年代起就“瞎了眼”、“闭着眼睛治理国家”！