特殊作戦群の歴史を紐解く上で欠かせないキーマンが、初代群長を務めた荒谷卓（あらたに・たかし）元1等陸佐です。荒谷氏は陸上自衛隊第1空挺団での勤務を経て、ドイツ連邦軍指揮幕僚大学への留学や米陸軍特殊部隊「グリーンベレー」での過酷な課程を修了した、日本の特殊作戦分野における先駆者として知られます。
1990年代後半の北朝鮮による工作船事案や地下鉄サリン事件、2001年の米同時多発テロ（9.11）を受け、防衛庁（当時）は従来の法域や防衛出動の枠組みを超えた「非正規戦・対テロ専門部隊」の必要性に迫られました。2004年3月、習志野駐屯地において約300名規模で発足した部隊こそが特殊作戦群です。荒谷氏は自著や当時の関係者向け講話において、「国家と国民が真の危機に瀕した際、最後に身体を張って任務を完遂する精神的支柱」の重要性を説き続けました。
部隊のシンボルや呼称において「S」の頭文字で呼ばれることも多く、その組織体制は現在、陸上自衛隊の作戦指揮を一元化する陸上総隊の直轄部隊として位置付けられています。隊員の身元秘匿は極めて徹底されており、駐屯地内でも覆面（バラクラバ）を着用して行動することが義務付けられ、家族にすら所属部隊の詳細を明かさない徹底した情報保全が敷かれています。
