宋元至明代，社会组织开始出现。清代在“反清复明”的斗争影响下，各类社会组织大量出现，组织渐趋严密，范围日益扩大。章回小说《三国演义》、《水浒传》的广泛流传，对秘密结社的发展起了很大作用。《三国演义》中刘备、关羽、张飞“桃园三结义”誓言说：“不求同年同月同日生，但求同年同月同日死。皇天厚(后)土，实鉴此心，背义忘恩，天人共戮。”刘、关、张三人异姓结拜兄弟，讲求“义气”，成为秘密结社中效仿的楷模。他们奉关公为崇拜偶像，把关公的“义”作为凝聚小团体的重要手段和维系组织、强化纪律的精神法则，演化为“江湖义气”。

在南方，关公信仰直接给“反清复明”的秘密结社以及后来的帮会提供了组织形式和内在精神。主要有天地会、三合会、哥老会，以及青洪帮、四川袍哥等等。如天地会，他们用刘关张桃园三结义的“义”字来维系内部的团结。天地会“进洪门诗”中有：“一进洪门结义兄，当天盟誓表真情。长沙弯口连天近，渡过乌龙见太平。”又说：“桃园结义天下闻，莫作奸心反骨人。你敬肉来我敬骨，胜过同胞骨肉亲。”天地会内部设有忠义堂和关帝庙，正中供奉“敕封真武关圣帝君”，两侧是“关平圣子”、“周仓将军”等。萧一山著《近代秘密社会史料》录有关帝庙诗：“历朝义气关云长，洪家子弟仿忠良。丹心等候明天子，特来结拜共拈香。”在忠义堂前表心盟誓，乃是天地会的必需仪式。

1808年(嘉庆十三年)，广东南海县人颜亚贵，在广西来宾县拜颜超为师入天地会．他传授的天地会誓辞为：“本月在口口处，口口村社下居住香主弟子口口，携带众信弟子天地结拜。请到明朝先锋，请到刘关张三位，在桃园结义，和合而顺天，结为忠义，永无更改，齐心协力，夺回真主江山。今有来宾县南口口里村众信弟子，诚心齐五色果酒，三牲醴物，在于灵神案下焚香祷告，敬请刘、关、张三位大将军；周仓、关平二位大将军；神灵鉴察，弟子须要忠心义气，有福同享，有官同做，子孙世享荣华，福有攸归。”可见，天地会十分强调“忠义”、“义气”，非常崇尚刘、关、张桃园结义的故事，尤其是其中有关同生死、共患难的行为。

三合会中供奉的神灵很多，关公是其中最为重要的神祗，享受着开山祖师爷的待遇。各会所均祀关羽，每以六月二十四日为其忌日，以五月十三日为其生诞，皆庆祝。在其入会仪式上，对关公的信仰也表现得非常突出。人会式，又称“作戏”或“放马”，举行仪式这一天，会员都要到场，称作看戏。凡入会者达五十人以上，就要举行一次入会仪式。入会者称作新丁，不拘阶级、阶层，“凡富贵人、学问家、官吏、农夫、商人、兵士、莠民、盗贼、乞丐，苟存忠义之志，思复明者，均得入会为洪家兄弟”。首先强调的是入会者须有关羽的“忠义”精神，其次才是要有“复明"的政治要求，均可加入三合会。而“忠义”的化身就是关羽。会场临时设在郊外，分外部、中央、内层三区。徐珂《清稗类钞·会党类》载：“其行仪式之秘密室，则取陈近南之亭名作隐语，谓之红花亭。中祀关羽，额日忠义堂。”入会时的誓语主要有下面一些内容：“吾人当吉凶与共，以求回复天地万有之明，灭绝胡虏以待真命。诸兄弟，今再导汝于忠义之神，吾人当以同生死誓于上天，今夜吾人绍介数新徒于天地会，．仿桃园结义故事，约为兄弟。”“吾人以甲寅年七月二十五日丑时为生诞时，凡昔二京十三省，当一心同体，人人互求幸福，各分其劳，毋或疏隔。一遇今朝王侯非王侯，将相非将相，人心动摇，即为明代回复，胡虏剿灭之天兆。”“凡新会员，各以其范围行所任务，顺天行道。顺天者存，逆天者亡。如有能回复明代，报仇雪耻，建设天下太平之治者，及身封王侯，子孙则历世永昌。违反是道者，应灭绝于剑戟之下，且须灭其种。唯忠心义气之人，得受永远之福祉。”

在哥老会中，在聚集所在正堂中央必挂关羽神像，行开山式时则要祭拜关羽。举行开山式，则选定黄道吉日，在人迹罕至的深山古庙中进行，“场中正面墙上，祀上祖、关帝等神”。《清稗类钞》中记载，1898年(光绪二十四年)冬，在镇江府西面城外鹤林寺，哥老会员“齐集关帝五祖殿前，各踊跃进山，英雄聚会，豪杰同心。义声震河岳，仁德扇区夏，所厚望也”。哥老会敬奉“三把半香”，其中一把是刘关张的结义香。在哥老会章程《金台山实录》(俗称《海底》)中明确地以刘、关、张为大爷、二爷、三爷。其中，二爷称“圣贤”，比拟关羽，地位尤为特殊。哥老会最重要的盛典开山堂仪式，首先是二爷安置关羽的牌位，谓之“安圣”，可见对关羽极为尊崇。哥老会有两次集会。其一“单刀会”就是五月十三日的关羽忌日。

此外，在近代史上，太平天国、义和团运动时期，农民革命领袖有时也利用关羽的旗号来组织人民，成为发动群众的武器。