Nach dem Abitur 1924 studierte Gisevius bis 1928 Jura in Marburg an der Lahn, Berlin und München, begann anschließend sein Referendariat in Berlin und wurde 1929 bei Franz Leonhard (1870–1950) zum Dr. iur. promoviert. Seit 1929 als Redner der Deutschnationalen Volkspartei (DNVP) aktiv, wurde er im Mai 1930 wegen anhaltender politischer Agitation, u. a. gegen Heinrich Brüning (1885–1970), nach Düsseldorf strafversetzt. Innerhalb der DNVP gehörte Gisevius dem rechten Flügel um Alfred Hugenberg (1865–1951) an und stand dem Eintritt seiner Partei in eine Koalition mit der NSDAP aufgeschlossen gegenüber. Ob er nach der nationalsozialistischen Machtübernahme Mitglied der NSDAP wurde, ist nicht geklärt.

Gisevius trat nach dem Zweiten Staatsexamen im August 1933 eine Stelle bei der Politischen Polizei in Berlin an, wechselte 1934 in das Reichsinnenministerium und 1935 in das Kriminalamt der preußischen Polizei unter Arthur Nebe (1894–1945), mit dem ihn eine enge Freundschaft verband. Als Gegner der Geheimen Staatspolizei und deren Leiter Rudolf Diels (1900–1957) geltend, wurde Gisevius 1936 von Heinrich Himmler (1900–1945) aus der Polizei entfernt, nachdem dieser Chef der Deutschen Polizei geworden war. Gisevius arbeitete anschließend in der allgemeinen Verwaltung des Regierungspräsidiums in Münster unter Ferdinand Freiherr von Lüninck (1888–1944), später im Regierungspräsidium Potsdam.

1938 war Gisevius vor dem Hintergrund der Sudetenkrise an der Vorbereitung der „Septemberverschwörung“, einem Staatsstreich gegen Adolf Hitler (1889–1945), zentral beteiligt. Als Kenner der Polizei und Fachmann für innere Sicherheit analysierte er für die Staatsstreichplanung die systemtreuen Kräfte. Der Plan war nach dem Münchner Abkommen vom 29. September 1938 jedoch hinfällig und wurde aufgegeben. Gisevius kam in diesem Kontext in Kontakt zu führenden nationalkonservativen Widerstandskämpfern und oppositionell denkenden Offizieren wie Ludwig Beck (1880–1944), Franz Halder (1884–1972) und Hans Oster (1887–1945), hegte jedoch zunehmend Antipathie gegen die an der Verschwörung beteiligten Militärs.

Zu Beginn des Zweiten Weltkriegs wurde Gisevius auf Weisung von Wilhelm Canaris (1887–1945) als Sonderführer in das Amt Ausland/Abwehr einberufen. Im Oktober 1940 ging er, offiziell Vizekonsul, als Vertreter der Abwehr nach Bern, wo er als Verbindungsmann zum US-amerikanischen Geheimdienst Office of Strategic Services (OSS) und dessen Leiter Allen Welsh Dulles (1893–1969) fungierte. Damit war er eine der wichtigsten Kontaktpersonen des nationalkonservativen Widerstands um Carl Goerdeler (1884–1945) mit dem Ausland. Dulles vermittelte Gisevius übertrieben optimistische Perspektiven hinsichtlich der Behandlung Nachkriegsdeutschlands durch die Alliierten, die dieser an Goerdeler weiterleitete, der infolgedessen zunehmend illusionäre außenpolitische Zielsetzungen vertrat, v. a. hinsichtlich der Möglichkeit, eine bedingungslose Kapitulation des Deutschen Reichs zu vermeiden.

Gisevius war am 20. Juli 1944 im Bendlerblock, dem Zentrum des Staatsstreichsversuchs, anwesend, tauchte nach dem gescheiterten Attentat unter und gelangte Anfang 1945 mithilfe gefälschter Papiere, die der OSS bereitgestellt hatte, in die Schweiz. Als Zeuge der US-Anklagebehörde beim Nürnberger Kriegsverbrecherprozess belastete er im April 1946 v. a. den Gestapo-Chef Ernst Kaltenbrunner (1903–1946), bemühte sich dagegen, Wilhelm Frick (1877–1946) und Hjalmar Schacht (1877–1970) zu entlasten, mit denen er während des „Dritten Reichs“ befreundet gewesen war. Für Aufsehen sorgte seine Behauptung, der Reichstag sei im Februar 1933 auf Weisung der NS-Führung durch ein von Hans Georg Gewehr (1908–1976) geführtes SA-Kommando in Brand gesetzt worden. Diese später mehrfach wiederholte Behauptung wurde ihm 1969 nach einer Klage Gewehrs vom Landgericht Düsseldorf untersagt.

1946 veröffentlichte Gisevius seine Memoiren „Bis zum bitteren Ende“, in denen er die Offiziere im Widerstand scharf kritisierte und Claus Schenk Graf von Stauffenberg (1907–1944) unterstellte, er habe zu sozialistischen Ansichten geneigt und den Krieg einseitig im Osten gegenüber der Sowjetunion beenden wollen. Die mehrfach übersetzten Memoiren gehören zu den frühesten Augenzeugenberichten aus dem nationalkonservativen Widerstand, stießen bald auf Widerspruch – Rudolf Augstein (1923–2002) verspottete Gisevius 1960 als „Karl May des deutschen Widerstandes“ – und gelten heute als eine weitgehend unzuverlässige Quelle. Beanstandet wird insbesondere seine unkritische Haltung zu Wolf-Heinrich Graf von Helldorff (1896–1944) und Nebe, der als Leiter der Einsatzgruppe B in der Sowjetunion für den Tod von mindestens 45 000 Menschen verantwortlich war. Auch die Kritik an der Person Stauffenbergs wird von der modernen Forschung überwiegend als unbegründet gewertet.

1963 veröffentlichte Gisevius die Studie „Adolf Hitler. Versuch einer Deutung“. Obgleich inhaltlich inzwischen weitestgehend überholt, betonte er in ihr die Mitverantwortung der deutschen Gesellschaft und kritisierte das damals weit verbreitete, stark hitlerzentrierte Bild des NS-Regimes.