Nach dem Schulbesuch in Striegau (Schlesien, heute Strzegom, Polen) wechselte Hellinger auf das König-Wilhelm-Gymnasium in Breslau (Schlesien, heute Wrocław, Polen), wo er 1902 das Abitur ablegte. Anschließend studierte er an den Universitäten Heidelberg, Breslau und Göttingen Mathematik und Physik. Die seit seiner Gymnasialzeit bestehende Freundschaft mit dem späteren Physiker und Nobelpreisträger Max Born (1882–1970) beeinflusste auch seine Wahl Göttingens als Studienort. In Breslau waren die Mathematiker Richard Courant (1888–1972) und Otto Toeplitz (1881–1940) seine Kommilitonen, die ebenfalls nach Göttingen wechselten. Seit dem Sommersemester 1905 war Hellinger Privatassistent David Hilberts (1862–1943), bei dem er im Oktober 1907 mit der Arbeit „Die Orthogonalinvarianten quadratischer Formen von unendlich vielen Variablen“ zum Dr. phil. promoviert wurde und weitere drei Semester als Assistent blieb. 1909 habilitierte er sich an der Universität Marburg an der Lahn für Mathematik, wo er fortan als Privatdozent tätig war. 1914 erhielt er eine Berufung als planmäßiger außerordentlicher Professor für reine und angewandte Mathematik an die neu gegründete Universität Frankfurt am Main, jedoch unterbrach die Einberufung zum Kriegsdienst die akademische Kariere.

Nach dem Ersten Weltkrieg kehrte Hellinger nach Frankfurt am Main zurück und wurde im August 1920 zum Ordinarius für Reine und Angewandte Mathematik berufen. Durch die Berufungen von Paul Epstein (1871–1939), Max Dehn (1878–1952) und Carl Ludwig Siegel (1896–1981) entstand hier Anfang der 1920er Jahre eine leistungsstarke mathematische Abteilung, an der Hellinger bis zum Herbst 1933 lehrte und sich an der Gestaltung des Mathematischen Seminars beteiligte. Trotz seiner jüdischen Abstammung blieb er danach aufgrund der Ausnahmeregelung für Weltkriegsteilnehmer zwar angestellt, musste aber um die Befreiung von Lehrverpflichtungen bitten und wurde 1936 infolge der „Nürnberger Gesetze“ entlassen. Hellinger lehnte es trotz der Repressalien ab zu emigrieren. Am 13. November 1938 wurde er verhaftet und in das Konzentrationslager Dachau deportiert. Durch Vermittlung seiner in die USA emigrierten Schwester und insbesondere durch die Fürsprache einflussreicher Freunde wie Siegel und Adolf Prag (1906–2004) wurde er unter der Bedingung, umgehend zu emigrieren, nach sechs Wochen entlassen.

1939 trat Hellinger eine Stelle als Lecturer für Mathematik an der Northwestern University in Evanston (Illinois, USA) an. Nach mehreren Jahresverträgen und dem Erhalt der US-Staatsbürgerschaft (1944) lehrte er hier ab September 1945 bis zur Emeritierung 1949 als Professor. Eine Gastprofessur für Mathematik am Illinois Institute of Technology in Chicago (Illinois, USA) konnte er wegen einer Krebserkrankung nicht mehr antreten.

Hellinger forschte v. a. zu Integralgleichungen und Spektraltheorie und trug in diesem Rahmen zur Entwicklung der Funktionalanalysis bei. In seiner Dissertation knüpfte er an Hilberts „4. Mitteilung“ über die Theorie der linearen Integralgleichungen von 1906 an, definierte das Hellingersche Integral für sog. Intervallfunktionen und erzielte wichtige Einsichten zur Spektraltheorie selbstadjungierter Operatoren sowie zum Stieltjesschen Momentenproblem. 1910 bewies er mit Toeplitz den nach ihnen beiden benannten Satz, der den Zusammenhang zwischen der Symmetrieeigenschaft von linearen Abbildungen auf linearen, vollständigen Räumen mit Skalarprodukt (Hilbert-Räume) und deren Stetigkeit herstellte und eine Anregung war, diese Beziehungen für allgemeinere Räume zu klären. Mit dem Beitrag „Integralgleichungen und Gleichungen mit unendlich vielen Unbekannten“ in der „Enzyklopädie der mathematischen Wissenschaften“ gaben die beiden Autoren 1927 eine umfangreiche und grundlegende Übersicht über die Entwicklung dieser Theorie. Die Abhandlung erfuhr mehrfache Auflagen, wurde später – etwa 1981 von Jean Dieudonné (1906–1992) – wegen der Konzentration auf Integralgleichungen vereinzelt kritisch gesehen. Zuvor hatte Hellinger 1922 Begriffe und Methoden der Lehre von Gleichungssystemen mit unendlich vielen Unbekannten auf die Stieltjessche Kettenbruchtheorie angewandt. Außerdem interessierte er sich für Mathematikgeschichte und für Mathematische Physik. Ersteres belegen eine Arbeit mit Dehn über James Gregory (1638–1675) und die Beteiligung an Dehns mathematikhistorischem Seminar, letzteres die Diskussionen mit Max Born (1882–1970) über mathematische Aspekte der Quantentheorie und ein 1926 dazu durchgeführtes Seminar. Zu Hellingers Schülern zählen Martinus Esser, Evelyn Frank, Henri Jorden, Richard Stark und Marion Wetzell.