Holsts Kindheit und Jugend verliefen v. a. aufgrund der unsicheren Vermögensverhältnisse und wechselnden Berufe des Vaters unstet. Nach dessen Tod in einem preußischen Gefängnis 1771 zog die Mutter zu ihrem Bruder, die jüngeren Geschwister kamen auf verschiedene Schulen. Über Holsts weiteren Lebensweg liegen kaum Informationen vor; vermutlich verdiente sie ihren Lebensunterhalt als Kindermädchen, später als Erzieherin.

In ihrer ersten Veröffentlichung „Bemerkungen über die Fehler unserer modernen Erziehung von einer praktischen Erzieherinn“ (1791) beschäftigte sich Holst mit den maßgeblichen Pädagogen ihrer Zeit, v. a. Johann Bernhard Basedow (1724–1790), Joachim Heinrich Campe (1746–1818) und Christian Gotthilf Salzmann (1744–1811). Holst pflichtete deren Konzepten weitgehend bei, kritisierte aber scharf die praktischen Anleitungen für den pädagogischen Alltag. Anstatt den Unterricht mit umfangreichen Lesebüchern zu überfrachten, sollten Kinder aus eigenem Antrieb lernen. Dem Zeitgeist der Aufklärung entsprechend, plädierte Holst für eine stärkere Individualisierung der Erziehung, lehnte aber – im Gegensatz etwa zu Jean-Jacques Rousseau (1712–1778) – eine Unterscheidung zwischen Mädchen- und Knabenbildung ab und betonte denselben Anspruch beider Geschlechter auf Bildung. Die Möglichkeit einer eigenständigen Berufstätigkeit forderte Holst nur für alleinstehende Frauen.

Nach ihrer Heirat 1792 führte Holst mit ihrem Ehemann eine Erziehungsanstalt in Hamburg. Details über diese Tätigkeit sind nicht überliefert. In Reaktion auf den Erfolg des Romans „Elisa, oder das Weib, wie es seyn sollte“ (1799) von Wilhelmine Caroline von Wobeser (1769–1807) publizierte sie in der Monatsschrift „Musarion“ vier „Briefe“, in denen sie für weibliche Autonomie eintrat und sich gegen die im Roman dargestellte aufopferungsvolle und demütige Frauenrolle wandte. 1802 veröffentlichte Holst ihre bekannteste Schrift „Über die Bestimmung des Weibes zur höheren Geistesbildung“, deren Bedeutung 1992 von Berta Rahm (1910–1998) mit Mary Wollstonecrafts (1759–1797) „Verteidigung der Rechte der Frau“ (1791) verglichen wurde. Holst setzte sich in ihr mit patriarchalen Gesellschaftsstrukturen auseinander, forderte grundsätzlich das Recht auf Bildung für Frauen und Mädchen und kritisierte die ungleiche Machtverteilung zwischen den Geschlechtern, wobei sie sich auf Theodor Gottlieb von Hippels (1741–1796) „Über die bürgerliche Verbesserung der Weiber“ (1792) bezog. Holsts Schrift stieß zeitgenössisch auf Ablehnung; anonyme Rezensenten bescheinigten ihr Inkompetenz, mangelnde philosophische Tiefe und ein Unverständnis des christlichen Frauenbilds.

1807 war Holst in Wittenburg (Mecklenburg) gemeldet, wo sie eine Erziehungsanstalt leitete, während ihr Mann in Hamburg gemeldet blieb; das Ehepaar lebte offenbar getrennt. Später soll Holst eine Mädchenschule in Parchim (Mecklenburg) geführt haben, ehe sie von 1823 bis zu ihrem Tod bei der Familie ihres Sohns in Groß-Timkenberg (heute Teldau, Mecklenburg) lebte.

Eine Rezeption von Holsts Werken setzte Anfang des 20. Jahrhunderts von Seiten der deutschen Frauenbewegung ein, v. a. durch Gertrud Bäumer (1873–1954), Karl Jacoby (1849–1939) und Agnes Zahn-Harnack (1884–1950). Im Rahmen der Neuen Frauenbewegung stieg seit den 1970er Jahren erneut das Interesse an Holst, wobei ihr Einsatz für weibliche Bildung Anerkennung fand, ihr fehlendes Engagement für weibliche Berufstätigkeit hingegen als persönliche oder intellektuelle Schwäche auslegt wurde. In jüngster Zeit wurden im englischsprachigen Raum Holsts pädagogische Schriften neu interpretiert; Robert B. Louden (geb. 1953) würdigte ihre kritische Auseinandersetzung mit Basedow und Campe, während Andrew Cooper (1986–2025) in ihren Schriften einen aufgrund der Kühnheit und Stringenz der Argumentation bemerkenswerten Beitrag zur Philosophie der Aufklärung erkannte.