1995年初，一封匿名信被放到了上海市公安局南市分局董家渡派出所（本厂长的奶奶家当年就位于董家渡派出所辖区内的公义码头街——董家渡轮渡站边上）所长的办公桌上，信的内容是揭露老城厢地区有一个类似于旧社会帮会组织的“大刀帮”，这伙人以大刀为特定凶器，以帮人讨债、撑台面、踢馆子为“主业”，在老城厢地区敲诈勒索，打架斗殴，无恶不作，居民敢怒而不敢言。意思就是：老城厢的人民群众生活在水深火热之中，需要人民警察为人民除害，否则还有何脸面自称“人民警察”。
这封匿名信让董家渡派出所所长惊出一身冷汗，不敢怠慢的他立即将情况上报给南市分局，分局得报后也吃惊不小，立即指示分局刑警支队抽调精干警力进驻董家渡派出所，会同派出所方面对匿名信的真实性进行核实，了解这个“大刀帮”到底是何方神圣。
通过启用特情耳目，南市分局刑警支队的侦查员们用数天时间基本将“大刀帮”摸了个大概——这是一个由二十余名刑满释放人员纠合而成的带有黑恶势力组织性质的流氓犯罪团伙，形成于1994年5月前后，正式成立于同年9月。
经粗略统计，该组织成立后先后参与了公共场所寻衅滋事、打架斗殴甚至持刀伤人的治安和刑事案件三十余起，涉及上海市的南市、黄浦、杨浦、浦东、虹口、闸北、普陀、宝山等七区一县，一共造成十余人被打伤或砍伤，其中两人因伤势严重造成终身残疾。
这帮团伙成员组织严密，各成员之间都不知道真名，全都互称绰号，平日里通过BP机联系，昼伏夜出，行踪不定，所以隐蔽性极强，捕捉难度极大。
而且，他们还拥有所谓的“纲领”，有所谓的“近期目标”和“远期目标”，口号是“今朝小三子，明朝大哥大”，“用手中的大刀在上海滩砍出名气，成为上海滩新的黄金荣，张啸林，杜月笙”，气焰实在嚣张。
在确认“大刀帮”确实存在后，时任上海市公安局朱达人局长大怒，一个带有黑恶势力性质的组织居然在各级公安机关的眼皮子底下存在近一年却始终没有被发现，还要靠群众匿名举报，都是干什么吃的！挨了局长一脸唾沫星子的南市分局局长铁青着脸回到分局就把分局刑警支队的头头脑脑以及各派出所所长们全部召集起来训话，要求立即成立专案组专办此案，务必在最短时间内将这帮横霸一方的犯罪分子一网打尽，还老城厢居民群众一个朗朗乾坤。
专案组受命成立后立即召开案情分析会，对“大刀帮”的组织特点进行研究，决定通过电信部门查BP机联络记录的明线和启用特情耳目进行暗访的暗线相结合的模式，再加上对外围的小流氓小混混的打击和审讯，对“大刀帮”团伙成员的真实信息进行摸底，从中找到突破口。
至2月底，通过一个多月的海量排摸，专案组终于锁定了“大刀帮”的一个重要团伙成员“小红”的真实身份——家住南市区薛弄底街的无业刑释人员朱杰。并在3月1日下午出动二十余名化妆的便衣侦查员在朱杰家周围和隔壁邻居处实施布控。
夜幕降临后，当酒足饭饱的朱杰摇摇晃晃地回到家，刚拉亮门道的电灯准备掏钥匙开门的时候，当即被守候已久的侦查员们摁倒在地，用抹布堵了嘴并戴上了手铐，然后用一条床单将他的上半身裹了后押回分局以免惊动附近可能的其他“大刀帮”团伙成员。根据行动后留守的耳目反馈，行动非常成功，一点也没有惊动附近的人。
然而朱杰在落网后态度蛮横，胡搅蛮缠，顾左右而言他，就是不交代问题。对此，专案组也早有思想准备，因为根据特情耳目的反馈，“大刀帮”所谓的“帮规”森严，第一条就是“叛帮者死”，其余往下的处罚也大多是“三刀六洞”，“剁手指头”，“挑脚筋”等具有浓郁旧社会帮派气息的“花样”，像朱杰这个级别的帮会骨干分子不可能轻易就范。
不过专案组并不着急，因为既然“大刀帮”成员之间是依靠BP机进行联络，那突破口就在此时正放在负责审讯朱杰的侦查员案头上，原本应该在朱杰腰间的那台BP机上。
果然，在僵持了一阵子后，朱杰的那台BP机响了起来，屏幕上显示了一个电话号码，根据之前通过特情耳目对“大刀帮”联络据点的汇报，这个号码属于宝隆酒家，“大刀帮”的据点之一。帮会成员每当滋事过后，都会在这里聚餐，大肆吃喝庆祝并唱卡拉OK玩乐助兴。
1995年2月的某天，这伙人在“嚎嗓子”的时候向其他唱歌的客人寻衅，继而引发了冲突，“大刀帮”的人一言不合就拔出大刀对着对方就是一通乱砍，当场砍伤数人，其中一名客人的头部被砍伤五处，手臂被砍伤一处，因为失血过多当场晕厥（后送医治疗一共缝了36针，构成轻伤二级），此人的哥哥因为保护弟弟，也被砍了一刀构成轻微伤。
于是，一队侦查员立即化装驱车赶往宝隆酒家，这一去真是意外之喜，经特情耳目指认，“大刀帮”的“军师”王尧良，骨干成员陈金贵和王筱林三人正在里面吃喝，侦查员们当即冲入三人所在的雅间，来了个瓮中捉鳖。
当三人被裹着头塞进警车时，王筱林腰间的BP机响了，上面显示了一个号码，经核对预先排摸好的耳目情报，这个号码属于河南南路上的一家“河鲜馆”，于是原本要回分局的警车马不停蹄地扑往“河鲜馆”，当即抓获正在那里吃喝的四名“大刀帮”团伙成员，经特情耳目暗中指认，其中包括“大刀帮”的第一打手朱华彪，可谓收获满满。
在随后的一天时间里，专案组通过BP机显示的电话地址频频出击，“大刀帮”的主要成员纷纷落网，至3月20日，已有十八名团伙成员落网。可是“大刀帮”团伙的头目冯茂德却始终没有露出任何蛛丝马迹。
冯茂德的案底显示，此人于1981年十七岁时因打架斗殴将人打成残废而吃了第一起官司，在随后的十来年里又两次因为打架或者械斗将他人打残或者砍伤而蹲了两次大狱（一次蹲了四年，一次蹲了三年半）。“三进宫”的经历让他具备了相当的反侦查能力。
专案组推测冯茂德此时应该听闻团伙成员不断“失联”，觉得风声紧了而隐藏了起来。于是改变策略，原本连连出击、步步紧逼，改为外松内紧，监视剩下的团伙成员，并不急于收网。同时对包括冯茂德家人在内的所有社会关系上了监视手段，收“放长线日，专案组从特情耳目处获知，冯茂德已经潜回上海，约他的老婆于次日在福州路和浙江中路路口碰面。专案组得报后认为机不可失时不再来，于是调集精干警力预先在福州路和浙江中路路口实施秘密布控。
3月26日上午8时40分左右，一个精神紧张的男子出现在浙江中路福州路口东张西望，似乎在等人。在确定此人就是冯茂德后，已经蹲守多时的便衣侦查员从多个方向一齐行动，将冯茂德包围，冯茂德发现时已经完全没了逃跑的路，只好束手就擒。
冯茂德落网后，剩下的“大刀帮”残余成员也没有留着的必要，在专案组的收网行动中悉数落网。
经冯茂德交待，他在听闻团伙成员接二连三失联后就意识到大事不妙，公安肯定在找他，随即逃离上海，先后在新疆和广东地区躲藏，同时不断和“大刀帮”尚未落网的几个成员保持着联络，半个多月后看上海警方没有进一步的动静，以为风声过去了，就迫不及待地潜回上海，没想到刚和妻子约好在福州路浙江中路路口见面，就落入警方的天罗地网。
至此，“大刀帮”彻底不复存在，对冯茂德等人的判决欢迎知情小伙伴积极补充。