永禄八年（1565）、織田信長が尾張から美濃に攻め込む際、最初に侵攻した城です。

信長は斎藤方の鵜沼城・猿啄城を攻めるため、まず伊木山城を攻略し、足掛かりとしました。伊木山城攻略に活躍した「伊木清兵衛」はその後、池田恒興・池田輝政に仕え、家老として関ヶ原の戦い前哨戦での先陣を務めるなど、池田家に尽くしました。また清兵衛の息子は姫路城の普請奉行を務めています。

現在伊木山は、ハイキングコースとなっており、展望台からは、木曽川、犬山城、小牧山城、鵜沼城などを一望することができます。