Erbauer des Schlosses war Karl Rudolf Freiherr von Wangler, der Burg und Herrschaft Karlsberg von 1635 bis 1667 besaß. 1687 wurde es von Kardinal Freiherr von Goess erworben und ist seither im Besitz der Familie Goess.

Das Schloss wurde unterhalb der alten Burg Karlsberg erbaut und war eigentlich ein Meierhof, ein bäuerliches Gehöft, das zur Burg gehörte. Es steht heute unter Denkmalschutz. Die Burg Karlsberg stammt aus dem 12. Jahrhundert. Die Ruinen der zumindest bis ins 16. Jahrhundert bewohnten Zwillingsburg stehen ebenfalls unter Denkmalschutz.
"Größter Stellenwert für Familie
Es habe als Besitz den größten Stellenwert für die Familie, da es auch über eine Landwirtschaft verfüge, so Peter Goess, er ist Land- und Forstwirt.

Goess bewohnt das Schloss gemeinsam mit seiner Frau. Die gemeinsamen Kinder seien in aller Welt „verstreut“.
Im Empfangsraum wacht das „Geistl“
Im Empfangsraum wacht ein Bildnis des Heiligen Geistes über die Besucher, so Goess: „Man findet es in vielen alten Bauernhäusern im oberen Stock.“

Im Speisesaal befinden sich zahlreiche prunkvolle Gemälde. Seinen Zweck erfüllt dieser allerdings nur, wenn wirklich viele Gäste zu Besuch sind – sonst isst das Ehepaar in der Küche.
„Kärnten heute“ dabei
Ein Ausflug in die Vergangenheit: Besuch auf Schloss Karlsberg.
Peter Goess über eines der Gemälde: „Diese Dame war eine berühmte venezianische Kurtisane mit ihrem Hofstaat – Musikern, Sängern und Eunuchen. Daher konnte man das Bild auf 1529 datieren.“

Mußestunden im Salon unter Jugendbild Maria Theresias
Im Salon hängt ein Jugendbild von Kaiserin Maria Theresia. Daneben eines von Peter II. „Er war Landeshauptmann in Kärnten und Gouverneur in Istrien“, so Goess.

Das Klavier im Musikzimmer sei schon lange verwaist. Zuletzt habe sein Sohn darauf gespielt, er selbst sei wenig musikalisch, sagte Goess.

Eine Kapelle als Herzstück des Schlosses
Herzstück von Schloss Karlsberg ist die Kapelle, eine Filialkirche von Tanzenberg, die dem Heiligen Johannes und dem Heiligen Petrus gewidmet ist.

Einzige janusköpfige Madonna Kärntens
Peter Goess: „Das ist, glaube ich, die einzige janusköpfige Madonna, wie sie früher rund um den Ulrichsberg in allen Kirchen vom gotischen Kreuzbau hingen. Die sind von den Bilderstürmern als heidnisches Relikt zerstört worden. Diese hier wurde in die Glan geschmissen. Als die Glan reguliert wurde, baggerte man sie heraus. Mein Großvater hat sie gleich ‚einkassiert‘“, so Goess.