W Olsztynku (a w zasadzie już poza jego granicami), znajdowało się Mauzoleum Hindenburga - wybudowane w latach 1924-27 i przebudowane w latach 1934-35. Pierwotnie upamiętniało bitwę pod Tannenbergiem (z sierpnia 1914 roku). 7 sierpnia 1934 roku, pochowano tam Paula von Hindenburga (dowódcę wojsk Pruskich podczas bitwy pod Tannenbergiem) - w uroczystościach pogrzebowych udział wziął Adolf Hitler.
Mauzoleum, zaprojektowali architekci Walter i Johannes Krügerowie, wykonane z cegły i granitowych bloków, posiadało osiem wież. Całość wysadzono w powietrze podczas odwrotu wojsk niemieckich w styczniu 1945 roku. Do dziś zachowały się po nim nieliczne ceglane relikty.