J.P. Sauer & Sohn wurde 1751 gegründet und fertigte qualitativ hochstehende Vorderlader-Jagdgewehre, wobei jedoch Aufzeichnungen über diese Zeit jedoch nur spärlich vorhanden sind. Mit dem Zeitalter der Metallpatronen wurde die Firma jedoch weltweit bekannt und hatte sich um die Jahrhundertwende bereits einen beneidenswerten Ruf als Fabrikant erstklassiger Jagd- und und Sportgewehre geschaffen.
Das erste Projekt für Faustfeuerwaffen entstand mit dem Zusammenschluß als Spangenberg & Sauer in den frühen 1880er Jahren, um im Auftrag des Militärs den "Reichsrevolver" zu produzieren. 1885 wurde die Verbindung mit Spangenberg gelöst, die Firma lief weiter als J.P. Sauer & Sohn und produzierte noch bis in die frühen 1890er Jahre Reichsrevolver.
Um 1900 erschien ihre erste kommerzielle Produktion, die merkwürdige "Bär"- Repetierpistole. Dann baute sie in Verbindung mit Georg Roth die Pistole "Roth-Sauer", wobei anscheinend das Interesse der Firma an Automatikpistolen geweckt wurde.
1913 erschienen bereits eine eigene Pistolenkonstruktion, der verschiedene weitere Modelle folgten.
Nach dem Zweiten Weltkrieg und der Teilung Deutschlands verlor das Werk in Suhl alle Fertigungsmittel und wurde aufgelöst, wobei einige Familienangehörige der Familie Sauer mit den Patenten und Fertigungsunterlagen in den Westen zogen und die Firma 1951 in Eckernförde auf dem Gelände der ehemaligen deutschen Torpedoversuchsanstalt neu gründeten. Diese Areal wurde aber später vom Militär wieder benötigt und die Firma wurde daher 1974 auf einem anderen Gelände komplett neu gebaut.
Neben der Gründung einer kanadischen Tochtergesellschaft wurden auch Verkaufsverträge mit der Firma Colt über das gesamte Sauer-Waffenprogramm geschlossen.
In neuerer Zeit hat sie sich mit der Schweizer Firma SIG-Neuhausen verbunden, um eine neue Reihe schwerer Automatikpistolen zu produzieren, welche weltweite besten Ruf genießen.