行司の最高峰である「立行司（たてぎょうじ）」、すなわち木村庄之助と式守伊之助の2名だけが、左腰に「短刀」を帯刀することを許されています。
なぜ土俵を裁く行司が刃物を携えているのか。その理由は、「もしも軍配を差し違えた（誤審をした）場合には、この短刀で自ら腹を切って責任を取る」という壮絶な覚悟を示すためです。
歴史上、実際に土俵上で切腹した行司はもちろん存在しませんが、現代においても立行司が差し違えをした場合、その日の取組終了後に日本相撲協会の理事長へ「進退伺（辞職願）」を提出するのが厳格な慣例となっています。多くは慰留されて翌日以降の出場停止や戒告などの処分にとどまりますが、短刀は単なる飾りではなく、判定に対する極限の責任と誇りの象徴なのです。
また、立行司と三役格行司は右腰に「印籠（いんろう）」を下げています。これはかつて薬などを携行した名残であり、結びの一番まで土俵を取り仕切る格式の高さを示しています。
