Långt innan NSDAP kom till makten bildades enheter vars syfte var att skydda ledningen för partiet. Den första av dessa var en grupp fd soldater, under ledning av Ernst Röhm, som användes som skydd vid de första talen och demonstrationerna. Denna grupp utgjorde sedermera kärnan i Sturmabteilung, SA.

Redan från början uppfattade Hitler SA både som ett hot och som ett användbart verktyg. Som en motvikt till SA bestämde Adolf Hitler att en enhet, Stabswache, skulle bildas

Med början som en personlig livvakt till Adolf Hitler bildades Stabswache med medlemmar som Julius Schreck och Joseph Berchtold. Embryot till organisationen fanns i den grupp av chaufförer som turades om att köra Adolf Hitlers Mercedes, och som gick under den samlande beteckningen Chauffeureska. Trots att Stabswache bildades som motvikt till SA sorterade organisationen under SA. Redan från början strävade dock Stabswache efter att skilja sig från SA. Utseendemässigt med hjälp av egna uniformer och insignier. Bl a så var det nu dödskallen i uniformsmössan började att användas

I samband med en reorganisation bytte enheten namn till Stosstrupp Adolf Hitler. Den 8 november 1923 iscensattes  Bürgerbräukeller-kuppen där Stosstrupp Adolf Hitler tillsammans med SA och andra nazistiska organisationer deltog. Kuppen misslyckades och Hitler dömdes till fängelse

Efter att Hitler i december 1924 hade frigivits från fängelset i Landsberg omorganiserades organisationen. I april 1925 gav Hitler Julius Schreck order om att skapa en ny livvakt som gavs det namn som den kom att bli känd under, Schutzstaffel, SS.  I september 1925 skickade Julius Schreck ett cirkulär till alla regionala enheter i NSDAP där han bad dem att skapa SS-enheter, vars styrka var bestämd av SA till en officer och tio man, de sk Zehnerstaffel.

Medlemskapet var exklusivt, medlemmarna skulle lämna två referenter, vara mellan 25- och 30 år gamla och vara starka och hälsosamma. Julius Schreck ersattes av Joseph Berchtold som i sin tur ersattes av sin ställföreträdare Eduard Heiden i mars 1927. SA höll ett vakande öga på SS:s expansion och lokala SA-ledare tilldelade dem ofta förnedrande arbetsuppgifter. SS var inte tillåtet att organisera enheter i i städer där SA var underbemannade, ej heller tillåtna att rekrytera mer än 10% av SA:s numerär. 1928 hade SS fortfarande bara 280 medlemmar.  

Himmlers organisatoriska förmåga hade inte passerat obemärkt och han utnämndes till ställföreträdande SS-ledare och sedan ledare den 16 januari 1929 och det är då SS egentliga historia börjar.

Himmler hade anslutit sig till organisationen som dess 168:e medlem redan 1925. För SA utgjorde denna färglösa byråkrat inget hot; han var det perfekta verktyget för att leda SS och för att säkerställa SS:s underlägsenhet i förhållande till SA. Men Den "färglösa byråkraten" hade andra tankar. Under Himmlers ledning blev SS, enligt dess officiella historia, sammansatt av de fysiskt mest lämpade, de mest pålitliga och de mest trogna männen i den nazistiska rörelsen.

När Adolf Hitler blev rikskansler i januari 1933 hade SS-organisationen växt till ca 52 000 medlemmar. SA, till vilket SS fortfarande tillhörde, hade ett medlemsantal på ca 300 000. I slutet av året hade SA växt till en organisation i storleksordningen 2-3 miljoner medlemmar som under sin ledare, Ernst Röhm, krävde en fortsättning på revolutionen. Hitler, å andra sidan, hade redan beslutat sig för att stabilisera sin regim genom att komma överens med militären och andra konservativa i nationen. Spänningen ökade till sommaren 1934 då Hitler den 30 juni iscensatte De långa knivarnas natt. Röhm och hans närmaste män inom SA häktades och sköts. Sepp Dietrichs Leibstandarte och Theodor Eickes Totenkopfverbände stod för manskap och medel till denna utrensning. Samtidigt fick SS, under Heinrich Himmlers ledning, ställning som en självständig organisation direkt underställd Hitler.

Fram till 1933 fanns det officiellt inga förgreningar till SS. Det var helt enkelt en grupp "deltidsanställda" politiska soldater. Inom de närmsta åren utvecklades dock ett antal specialiserade verksamheter från den ursprungliga kärnan. Som ett resultat av detta kallades den huvudsakliga delen Allgemeine SS. Det var alla de SS-män som inte tillhörde någon av de specialiserade enheterna. 1939 uppgick denna del av SS till ca 250 000 medlemmar.