尖山镇历史悠久,先秦时期,尖山镇属百越之地,秦始皇统一中国后,尖山镇归属象郡所辖。汉朝至晋朝,尖山镇属交州合浦郡,南朝末元嘉设末寿郡,梁代设安州。
唐武德五年改宁越郡为钦州总管府,元改为钦州路。
民国时置孟锯乡,解放后,1950年设孟锯乡,1951年春分为3个小乡, 1957年合并为尖山乡,1958年—1966年先后并人钦州、附城、康熙岭等公社,1989年11月从康熙岭乡析出复置尖山乡。
1994年6月28日,经国务院批准,撤销钦州地区,设立地级钦州市,钦州市分钦南区和钦北区,尖山镇属钦南区。