Terwijl alle andere muurhuizen zijn gebouwd na voltooiing van de tweede omwalling omstreeks 1450 wordt het huis Tinnenburg reeds in 1414 voor het eerst vermeld. Toendertijd lag er naast het huis nog een waterpoort over de Kortegracht. Zo staat er in een archiefstuk uit 1420 te lezen dat Willem van Weele rechten laat gelden op: 'in onser stat muer gheheten tynnenborch daer an dat einde naest gelegen is onser stat waterpoert'. Tinnenburg heeft dus zeer waarschijnlijk onderdeel uitgemaakt van de versterking bij deze waterpoort. Het huis is vernoemd naar de 'tinnen'. Dat zijn de kantelen op de stadsmuur. Onderzoek van het gebruikte steenformaat en hout toont aan dat het huis in 1452 verbouwd is, dat is vlak na het voltooien van de tweede stadsmuur.  Aan de andere kant van de gracht lag vroeger huize Rommelenburg. De eerste vermelding daarvan dateert uit 1493. Dit huis werd in 1843 afgebroken.