Atsuta Jingu foi fundado originalmente aproximadamente ha 1900 anos atrás, quando a espada sagrada (Kusanagi-no-tsurugi), um dos símbolos Imperiais, foi entesourado. Atsuta foi escolhido como o local para o santuário por Miyasuhime-no-Mikoto, filha de Owari-no-kuni-no-miyatsuko e esposa do Príncipe do então Yamatotakeru-no-Mikoto, que tinha morrido, deixando a espada em Hikami.
Desde então Atsuta Jingu, tem sido o segundo santuário mais venerado no Japão, perdendo apenas para o Grande Santuário de Ise, situado na província de Mie. O santuário não só desfrutou de privilégios especiais dos altos graus oficiais de Myojintaisha e Chokusaisha, mas também ganhou popularidade entre pessoas que chamam o santuário pelo nome familiar de Miya (o Santuário). Além disso, o caráter geográfico da Planície de Owari com solo fértil nutriu uma fé em Atsuta Jingu como protetor da agricultura. Isto pode ser testemunhado pelo fato que muitos dos festivais e espetáculo de serviços divino tem conexão íntima com vida popular que centra a indústria agrícola ao redor.
Os edifícios de santuário foram mantidos pelo esforço dos generais devotos que sucederam através dos tempos, como os Shoguns de Muromachi, Shogunatos de Edo, Nobunaga, Hideyoshi e os Tokugawas, que governaram o distrito de Owari. Em 1893 o santuário foi remodelado em estilo estrutural Shinmei-zukuri, o mesmo estilo de construção do Grande Santuário de Ise. Na ocasião da celebração do Sengu em 1935 os edifícios do santuário como também outras instalações foram completamente rearranjadas e melhoradas de forma que isto veio assumir a verdadeira grandeza do Grande Santuário de Atsuta. Durante a Segunda Guerra mundial, porém, muitos dos seus edifícios foram destruídos pelo de fogo.
Depois da guerra a reconstrução foi iniciada atraavés do esforço combinado de todos os adoradores devotos do santuário do país. Os edifícios principais foram concluídos em 1955 para a realização de celebração do Hondensenzasai.