金沢市の東方、砺波（となみ）平野の西方に位置し、白山山地の最北端の山である。富山県側の南砺市（旧、福光町）、石川県側の金沢市域ともに、それぞれ県立自然公園に指定されている。山中にはスキー場や森林レクリエーション施設がある。
　養老3年（719）に白山を開いた泰澄（たいちよう）大師が開山したと伝えられ、のちに山中に育王仙惣海寺など四十坊あまりを置いたと言われている。
　山名の由来は「薬草が多く薬師如来（大医王仏）を祭った」という説が一般的である。北陸には珍しい「ゼン」は、育王仙惣海寺と関連があるとみられている。
　江戸時代から金沢の町人に親しまれていたので、伝説や民話が多い。その伝説を基にして金沢出身の泉鏡花や室生犀星が作品を残している。特に小説『医王山』は犀星の代表作である。
　山塊の最高地点は一等三角点のある奥医王山だが、普通医王山といえば標高896mの白兀山（しらはげ）へ登る。林道が金沢市側は菱池、田ノ島、二俣、南砺市（旧、福光町）側は小又や広谷から奥深く入っており、その道を利用すれば徒歩30分程度で奥医王山や白兀山の山頂に立てる。バス利用だと金沢市側の医王山バス停から2時間ほど、福光町小坂から3時間ほどで白兀山に着く。