遥拝のルーツを辿ると、古代日本の自然崇拝（アニミズム）に行き着きます。神仏習合以前の日本人は、そびえ立つ雄大な山そのものを御神体として畏敬の念を抱いていました。代表的な例が富士山遥拝です。かつて富士山は噴火を繰り返す荒ぶる神の山であり、登拝（山に登ること）が困難だった時代には、麓の清浄な地から山頂を仰ぎ見て祈りを捧げる浅間信仰が定着しました。
中世から近世にかけては、民衆の間で「お伊勢参り」が大流行します。しかし、誰もが三重県の伊勢神宮へ旅立てるわけではありませんでした。そこで各地の集落に「伊勢神宮遥拝所」が設けられ、遠方から伊勢の神宮へ向けて感謝の祈願を届ける伊勢神宮遥拝が庶民の生活に深く浸透していきました。
近代に入ると、国民統合の一環として皇居（宮城）に向かって敬礼する宮城遥拝（きゅうじょうようはい）が学校や公の場で広く行われた時期もありました。時代ごとに形態や対象は変化しながらも、「遠隔地から尊厳ある対象へ敬意を届ける」という根本的な精神は、現代のライフスタイルにも自然な形で受け継がれています。
