Der Server ist mit Domainname konfiguriert und so intern auch erreichbar (server.testxx.ch) Die Webseite soll aber beim Hoster bleiben. Kann man das so im DNS Server einrichten?

Ein DNS-Name kann immer nur auf einen Host aufgelöst werden, es sei denn du möchtest Load-Balancing oder geographische Verteilung nutzen. Wenn nur www.domain.tld bzw. domain.tld auf die externe Webseite zeigen soll, aber server.domain.tld auf den Mac OS X Server, dann hinterlegst du den Namen für (www.)domain.tld nicht im OS X DNS. Dann wird zur Auflösung vom OS X DNS der nächst höhere DNS bis zum für die Domain zuständigen NS gefragt.

Ok, danke für die Info.

Oder die IP-Adresse des gewünschten Server einfach in die hosts-Datei eintragen?

Eigentlich möchte ich ja nur, dass wenn ich im internen Netz www.testxx.ch eingebe auch auf den externen Server geleitet werde. Wie es scheint geht das aber ja nicht.

Wo soll denn diese hosts-Datei sein? Diese kenne ich nur aus der Windowswelt.

Warum hat der interne Server überhaupt eine öffentliche Adresse?

Wenn www.testxx.ch aus dem internen Netz (Mac OS X Server DNS) nicht zu erreichen ist, dieser aber den Hoastnamen server.testxx.ch hat, dann ist der DNS-Dienst auf diesem falsch konfiguriert. Ich habe etliche Server und Netze, bei denen der Server eine Hostnamen wie z.B. server.internal.domain.tld hat, und die Webseite unter www.domain.tld und domain.tld ohne Probleme zu erreichen ist. Wichtig ist, dass der DNS-Dienst auf dem Server nicht für die Zone domain.tld zuständig ist. Sonst musst du in dieser Zone einen CNAME für domain.tld und www.domain.tld anlegen, wie sie auch beim autoritativen Nameserver der Domain eingetragen sind. Das geht zwar auch ist aber (bei richtiger DNS Konfiguration) eigentlich unnötig.
Oder um es so zu sage: Das kannste schon so machen, nur dann isses halt kacke...

In dem Fall muss ich meinem Server umkonfigurieren von server.testxx.ch auf server.int.testxx.ch, korrekt?

Nein, nicht zwangsläufig. Wichtiger wäre es, die Primärzone zu ändern. Diese Lautet vmtl. testxx.ch, oder?

So, Primärzone ist angepasst und es funktioniert nun. Danke

Mich hätte trotzdem noch interessiert, welches Szenario verlangt, dass der Server eine öffentliche Adresse braucht. Einfach aus Interesse!
Oder anders formuliert: was geht nur damit oder geht besser damit?

Ich lese bislang nicht, dass der Server eine "öffentliche" IP-Adresse hat. Woraus liest du das? Der "externe" Server ist vmtl. der Server auf dem die Webseite gehostet ist.

genau

Von IP hab ich auch nicht geredet. Als ich das letzte mal im Internet unterwegs war, war .ch aber noch eine öffentliche Adresse im Gegensatz zu .local oder besser .private

.local und .private sind non-standard TLDs und sollten von niemandem, auch nicht intern, verwendet werden. Die meisten Probleme in gemischten Netzwerken (Win/Mac) sind auf solch ein verquertes "Verständnis" der DNS-Infrastruktur und Nutzung zurückzuführen.