標高430mの山上にある寺で、老杉古柏も鬱蒼とした静寂な境内が情緒ある風情を醸し出しています。木山寺の創建は、遠く弘仁6年(815年)の初冬。高祖弘法大師が美作の地を訪れた際、木樵姿の翁がこの霊山に大師を導き、仏堂建立にふさわしい地であると説きました。この翁こそ本尊薬師如来の仮の姿であり、大師はこの不思議な因縁をたいそう喜び、ここに寺を建立。これが木山寺の始まりであると伝えられています。 そして、仁寿年間(9世紀中頃)には鎮護国家の勅願寺となりました。その後は、赤松義則をはじめ、毛利・尼子らの戦国武将や、森・三浦など諸大名の尊信を集め、現在でも中国各地に多くの信者を有する名刹として知られています。
周辺一帯は郷土自然保護地域に指定され、自然環境の美しい霊峰です。