На месте нынешней церкви в XIV столетии находился неформальный клуб проживавших в Стокгольме купцов-ганзейцев и их персонала. Были они в основном немцами, образовывали собственную гильдию и, даже если судить по расположению немецкого квартала в 350 метрах королевского дворца, община их была весьма влиятельной. Со временем Ганза приказала долго жить, но немцы из Стокгольма не исчезли. В середине XVI века Густав Васа разрешил им проводить общие молитвы – король на самом деле не был врагом церкви или религии, если религиозные деятели не вмешивались в светские или государственные дела.
Сын Васы Юхан III был ещё терпимее. Он разрешил немцам приглашать священников и разрешил проводить службы в небольшой часовне, чередуясь с финнами. В середине XVII столетия часовня уже принадлежала исключительно немцам, которые пристроили к ней фактически ещё одно знание такого же размера, получился двухнефный храм.
В начале XVIII века возвели крипту, совместив её с винным погребом. Последнее большое изменение внешнего вида Немецкой церкви произошло в 1878 году, когда шпиль главной колокольни заменили на готический и украсили его горгульями.