水琴窟のルーツをめぐっては、インターネット上や観光案内でもしばしば不正確な言説が散見されます。最も多い誤解が、「江戸時代初期に茶人・小堀遠州（こぼりえんしゅう）が風流な楽器として考案した」という説です。
歴史的な公文書や作庭記録を検証すると、遠州が考案したのはあくまで「洞水門（とうすいもん）」と呼ばれる実用的な地中排水構造でした。手水鉢周辺の水はけを良くするため、地中に瓶を逆さに埋めて小石を詰め、会所桝（かいしょます）として利用したのが始まりです。この排水作業の際、水が地中に吸い込まれる過程で偶然に「ゴボゴボ」と漏れる水音が、当時の風流人たちの耳に留まりました。
現在のように、水滴を一滴ずつ落として「キーン」という澄んだ琴の音を鑑賞する純粋な音響装置として洗練されたのは、江戸時代中期の享保年間から文化・文政期にかけてのことです。庭師たちは排水という実用目的を離れ、甕の形状や落水口の口径、底の水深をミリ単位で調整し、完全な芸術装置へと昇華させました。
明治時代に入ると水琴窟は東京や京都の豪商・華族の邸宅庭園で大流行を見せますが、大正から昭和初期の都市化や戦争の混乱の中で構造図や職人の口伝が散逸。昭和40年代には「幻の庭園技法」として消滅寸前の危機に陥りました。その後、1980年代に入って東京藝術大学の研究チームや京都の熟練庭師たちの手によって残された遺構の音響測定と科学的復元が進められ、現在の姿へと蘇った経緯があります。
