In der mitteleuropäischen Gartenflora hatte in den Jahrzehnten zuvor ein bedeutsamer Wandel stattgefunden: An den erneuerten oder neuerbauten Residenz- und Lustschlössern der Renaissance waren große Lustgärten entstanden, die wesentlich mehr Platz für Zierpflanzen boten. Aus Südeuropa, und neu auch aus Amerika und aus dem Vorderen Orient, kamen zahllose neue Pflanzenarten nach Mitteleuropa. Die Lustgärten wurden von besonders gut ausgebildeten Gärtnern oder bekannten Botanikern wie Elsholtz angelegt und gepflegt.
Der Hofgärtner Michael Hanff hatte bereits 1647 vom „Großen Kurfürsten“ den Auftrag erhalten, anstelle des im 16. Jahrhundert angelegten und nach dem Dreißigjährigen Krieg verwüsteten Nutz- und Küchengartens einen Lustgarten anzulegen.
Hanff legte den Berliner Lustgarten nun gemeinsam mit Elsholtz nach holländischen Vorbildern an, mit einer Orangerie, einem Blumen- und einem Gewürzgarten. Er war mit Bildhauerwerken, Grotten, Lusthäusern und Wasserspielen ausgestattet. 1649 baute man in diesem Garten die ersten Kartoffeln in Deutschland an. Elßholtz bezeichnete in seiner Schrift „Flora marchica“ die Kartoffeln, die damals noch als Zierpflanzen angesehen wurden, als „Holländische Tartuffeln“ und schrieb in seinem „Diaeteticon“ über sie: „Diese Wurzeln wachsen von sich selbst in America / und denen nahe daran belegenen Inseln […] Diese anmuthige Wurzeln kommen selten zu uns […] Alsdan aber uebergehen sie die liebligkeit der Castanien und der gemeinen Zuckerwurz gar weit / und waeren wehrt / daß man sie auch bey uns zu ziehen vermoechte.“
Ab 1656 war er „Praefectus hortorum“ (oberster Gartenaufseher). Am 17. Dezember 1657 wurde Johann Sigismund Elsholtz von Kurfürst Friedrich Wilhelm zum „Botanicus“ (Botanischen Leiter) seiner Lustgärten in Berlin, Potsdam und Oranienburg ernannt.
Der „Hortus berolinensis“, über den Elsholtz im gleichen Jahr auch eine ausführliche Beschreibung verfasste, entwickelte sich in den folgenden Jahren bis 1672 unter seiner Leitung zum ersten Botanischen Garten Berlins mit fast 1000 verschiedenen Gewächsen. Erstmals 1718 wird der von Elsholtz im Jahr 1679 angelegte Hof- und Küchengarten bei Schöneberg (heute Heinrich-von-Kleist-Park) auch als „Botanischer Garten“ bezeichnet. Nach Elsholtz ist daher auch die den Park rückseitig begrenzende Straße hinter dem Kammergericht benannt (Elßholzstr.).
Insbesondere seine Schrift „Vom Garten-Baw“ erschien in mehreren Auflagen. Sie wurde das bedeutendste deutsche Gartenbuch des 17. Jahrhunderts. Elsholtz hat mit diesem Werk die erste Zusammenstellung der gesamten Gartenwissenschaft verfasst. Sechs Bücher behandeln die »Gärtnerey insgemein«, einschließlich Gartenkunst, Blumengarten, Küchengarten, Baumgarten, Weingarten und Arzneigarten. In einem angefügten Gartenkalender sind die monatlich jeweils zu verrichtenden Gartenarbeiten dargestellt.
Er verfasste des weiteren die ersten Bücher bzw. Kataloge über die Pflanzen und den Gartenbau in Brandenburg.
Elsholtz beschrieb darin aber nicht nur Zierpflanzen, sondern auch Nutzpflanzen. So äußerte er sich lobend über brandenburgische Weinreben, „welche auf keinem rauen Kalkgrund, sondern auf kleinen Sandhügeln wachsen und daher zwar nur leichte Weine sind, aber doch keine zusammenziehende Säure, sondern vielmehr nur angenehme Lindigkeit, bevorab in guten Weinjahren haben.“
Nach Elsholtz ist die Pflanzengattung Elsholtzia Willd. benannt.
Elsholtz verfasste sechs Bücher und drei kleinere Arbeiten über Themen der Alchemie.
So beobachtet er z. B. die Leuchteigenschaft von Phosphor. Elsholtz benennt erstmals dieses Element als „phosphoros“ („lichttragend“, zusammengesetzt aus den griechischen Wörtern phos für „Licht“ und pherein für „tragen“). (schon vorher war der Begriff für andere Leuchtstoffe gebräuchlich; heutzutage wird das exaktere Wort Chemolumineszenz verwendet).
Auch über das Leuchten von Flussspat bei Erwärmung forschte und veröffentlichte er.