第一代山口组
田冈一雄在位期间的昭和30～40年代（50～60年代），与许多地缘黑帮之间发生数起对立火拼事件，而使山口组扩大全国各地地盘，成为全国性的广域黑社会组织。田冈一雄拥有超群的统御力及组织力，以雄厚的资金涉足演艺娱乐、营造、航空及各行业公司的经营权，加上文、武分明的强力战斗部队，成为称霸全国的原动力。
第二代山口组
田冈一雄死后，第二代组长的遴选使山口组内部分裂；在昭和59年6月（1984年）选出第四代组长，继承者为竹中正久。造成内部反对势力“山广派”不服，集体退出山口组，另组“一和会”与山口组长期对抗达8年之久的“山一战争”；抗争期间，昭和60年1月（1985年）第四代组长“竹中正久”及若头“中山胜正”遭到暗杀；最后，“一和会”也被山口组彻底瓦解。
第三代山口组
到了平成元年（1989年）由原第三代山口组若头渡边芳则继承组长一职，成为山口组第五代组长。第五代组长渡边芳则就任后，因积极扩张势力范围，尤其他本人相信武力可以解决一切，造成与多个组织发生对抗事件，像“东日本二十日会”、“五者会”组成的对抗事件即是。平成8年（1996年）7月发生若头补佐“中野太郎”遭“会津小铁会系”的袭击，而当时的宅见胜却介入并引敌为友，造成“中野太郎”的不满与愤慨。平成9年（1997年8月），第五代山口组若头宅见胜即被“中野会”（2005年8月7日提出解散）派人暗杀身亡，是山口组内部派系纠纷造成。
第四代山口组
（2005年）5月弘田组组长司忍（本名“筱田建市”）继任第四代山口组若头；同年7月29日山口组举行“直系组长例行会议”（简名“定例会”），会后正午宣布领帮16年的第四代山口组组长渡边芳泽退休，并内定司忍继任第五代组长；同年8月27日山口组在神户总本部举行第六代组长的迹目相続继承仪式。此次山口组除改朝换代之外，在吸收东京活动的国粹会入其伞下，被视为山口组将势力逐步深入关东的核心地。
目前山口组成员有3万9200名成员，占日本所有帮派份子的45%，另外在亚洲数国与美国也都有分支。
山口组目前是日本的指定暴力团中规模最大的黑社会组织，在全球所有黑帮中也是数一数二的。日本政府容许该组织合法注册，其总部设在神户滩区，主要成员有组长与舍弟(义弟)8人、直参若众91人共计100人。山口组成员都是九指，因为据规定，每个山口组会员正式入会之前，都要切断自己一只手上的小拇指送给大哥来表示自己的忠诚。
第五代山口组
到了平成元年,由第四代山口组若头渡边芳则继承组长一职,成为山口组第五代组长,第五代组长渡边芳则就任后,因为积极扩张势力范围,造成与多个组织进行对抗事件,,像关东二十日会事件一样，5月弘组长司忍继任第五带山口组若头。
第六代山口组
同年7月19日山口组举行\"直系组长历行会议\"，会后旧任宣布领帮16年的渡边芳则退休。并指任莜田建市担任第6代山口组长,,同年8月27日山口组在神户总部举行第六代组长的继承式,此次山口组除改朝换代外,,在吸收东京的国粹会入其伞下,被视为关西为主的山口组将逐渐深入关东的心脏.
日本黑社会由来已久，日本著名政治学家丸山真男撰写的《超国家主义的理论和心理》指出，暴力团出现的原因是：二战结束后，右翼和民族主义被迫采取“曲线救国”的**和亲美路线，成为“体制右翼”。他们充当追随美国的日本政府的爪牙和打手，并与政界和财界相勾结以获得大笔资金。
文章还指出，近年来，随着经济衰退后民族自尊心受挫和美国的利用，以“国家自立”为目的的民族主义再度兴起。在当今日本政治、军事和外交活动中，这些人充当激进思想运动的成员，其中不乏打着“忠君爱国”招牌、经常自称为“皇民”的暴力团的身影。