Wie funktioniert das wiki in Mountain Lion Server? Ist das etwas, was auch in Mountain Lion bereits enthalten ist und was in Mountain Lion Server lediglich einfach zu konfigurieren ist oder ist es ein ganz neuer "Dienst"?

Mountain Lion hat zumindest auch ohne die Server-App schon einen Webserver (Apache) und PHP.
Wenn man dann noch MySQL installiert und alles konfiguriert, kann man auch Mediawiki verwenden.
Das ist allerdings Arbeit und man sollte ein wenig Ahnung vom Einrichten des ganzen haben.

Ansonsten ist die Mountain Lion Server Variante sicher der einfachere, Userfreundliche weg ein Wiki zu bauen. Eigentlich nur "Dienst einschalten", "Browser aufmachen & aufrufen", "Loslegen"

Ein wiki (dokuwiki) habe ich hier auf Mountain Lion auch schon laufen. Nur, wie läuft das wiki von Mountain Lion Server. Ist das etwas Apple-eigenes? Kann ich das evtl. auch bei Mountain Lion aktivieren?

Das ist was weitgehend Apple-eigenes. Basierend natürlich auf zumeist frei erhältlichen Komponenten.

Vielleicht hilft Dir das hier weiter? http://www.justinrummel.com/10-8-mountain-lion-server-websites-and-wiki/

Es ist etwas eigenes von Apple und nur im Server Paket enthalten. Das Wiki nutzt die Postgesql Datenbank die bei OS X Server dabei ist.