Det Svenska prästhuset, som byggdes omkring 1790, har en viktig plats i St Barths koloniala historia. Huset byggdes av Swen Thunberg, en av de första svenskarna som anlände till ön med fartyget Sprengtporten den 6 mars 1785, och representerar den tidiga tiden av svenskt inflytande. Thunbergs tid som präst präglades av hans inkluderande förhållningssätt, där han betjänade människor av olika tro trots den religiösa mångfalden på den tiden. Hans initiativ att hålla gudstjänster på engelska visade på ett tidigt engagemang för att betjäna öns mångskiftande befolkning.

Husets historia speglar koloniallivets föränderliga karaktär. Efter Thunbergs återkomst till Sverige flyttade Johan Carl Thorell in och renoverade snabbt fastigheten. Thorells kortvariga boende, som slutade med hans död 1792, följdes av en period av vakans i prästämbetet. Därefter och fram till 1803 bodde flera anmärkningsvärda personer i huset, bland annat Olof Wilhelm Leijon Norderstedt, känd för att ha grundat Anjalakonspirationen mot Gustaf III av Sverige. Kanske viktigast av allt var att Samuel Fahlberg, läkaren och lantmätaren som ritade Gustavias stadsplan, bodde i huset.

Idag fortsätter det svenska prästhuset att tjäna samhället, om än i en annan kapacitet. Här finns nu en av Gustavias äldsta restauranger, där historisk betydelse blandas med modern nytta. Trots att det ursprungliga galleriet har försvunnit är byggnaden ett utmärkt exempel på svensk kolonialarkitektur för tjänstemän från slutet av 1700-talet. Dess bestående närvaro och förändrade användning är ett uttryck för S:t Barths förmåga att bevara sin rika historia och samtidigt anpassa sig till samtida behov.