Heute erinnert nur noch wenig an die einstigen Anfänge Blankeneses. Denn dort, wo heute Hamburger mit durchschnittlich hohem Einkommen leben, wohnten vor Jahrzehnten einfache Fischer. Erstmals taucht das Fischerdorf 1301 in einer Urkunde auf.
Die Fischer lebten damals in reetgedeckten Häusern am Hang. Eines von ihnen kaufte die Stadt 1927. Dabei handelt es sich um das Fischerhaus, in dem sich heute das Museum und ein Treffpunkt für Jung und Alt befindet.
Das „Tweehus“ wird erstmals in einem Verkaufsdokument 1690 erwähnt. Es muss also älter sein und ist damit das älteste noch erhaltene Fischerhaus im Blankeneser Treppenviertel.