Nasceu em Viena em 1874. Durante a juventude aprendeu violoncelo e violino. Começou a compor cedo, tendo estreado em 1897 um quarteto de cordas e algumas canções.
Em 1899 compôs Verklärte Nacht e em 1900 começou a trabalhar nos Gurrelieder, ambas num estilo romântico pós-wagneriano. Como reconhecimento do mérito dos Gurrelieder obteve uma bolsa e o lugar de professor no Conservatório Stern de Berlim, recomendado por Richard Strauss. Regressou a Viena em 1903.
Nas composições efetuadas entre 1903 e 1907, Schoenberg explorou até ao limite a harmonia cromática e as estruturas tonais tornaram-se cada vez mais indefiníveis até que, em 1909, chegou à atonalidade com 3 Peças para piano, op. 11 e o ciclo de canções Das Buch der hängenden Gärten.
Em 1911 publicou o seu magistral Tratado de Harmonia.
Em 1918 fundou em Viena a Sociedade para Execuções Musicais Privadas, onde nenhum programa podia ser previamente anunciado e o aplauso era proibido. Depois de um período em que pouco escreveu, em 1923 as suas novas composições introduziram o método de composição dodecafónica que constituía a técnica de Schoenberg para organizar música atonal.
Em 1925 foi convidado para ensinar composição na Academia Prussiana de Artes, onde permaneceu até 1933, data em que foi demitido pelos nazis e abandonou a Alemanha.
Foi também um pintor de talento. Morreu em Los Angeles em 1951.