Ozzy fue reemplazado por el cantante Ronnie James Dio, de participación reciente en la banda Rainbow.[53] Más tarde tuvo que afrontar el divorcio de su primera esposa Thelma y se vio envuelto en una profunda depresión, que lo llevó a permanecer días enteros solo en un cuarto de hotel. Sharon Arden, hija de Don Arden, lo convenció para que continuara con su carrera musical.[54] Osbourne firmó un contrato con Jet Records, propiedad de Don Arden, el cual envió a su hija Sharon a Los Ángeles para que estuviera pendiente de las necesidades de Ozzy, como una forma de proteger su inversión.[55] Inicialmente, Arden deseaba que Osbourne retornara a Black Sabbath, pero al darse cuenta de que el proyecto con Ronnie James Dio empezaba a encaminarse, trató de persuadir a Ozzy de crear una banda llamada "Son of Sabbath", algo que a Osbourne no le llamó la atención.[10] Sharon luego trató de convencerlo de formar un supergrupo junto al guitarrista Gary Moore.[10] A finales de 1979, Osbourne retomó el proyecto Blizzard of Ozz que había iniciado luego de su primera salida de Black Sabbath.[56] La alineación consistía en el baterista Lee Kerslake (de Uriah Heep), el bajista y compositor Bob Daisley (de Rainbow y Uriah Heep), el teclista Don Airey (de Rainbow y Deep Purple años después) y el joven guitarrista Randy Rhoads (de Quiet Riot).
La compañía finalmente nombró al álbum Blizzard of Ozz y lo publicó bajo el nombre de Ozzy Osbourne.[57] Blizzard of Ozz es uno de los pocos álbumes entre los cien más vendidos en la década de 1980 que logró la certificación de multiplatino sin el beneficio de haber ubicado un sencillo en el Top 40.[58]
El álbum contenía canciones que se convertirían en clásicos y referentes en la carrera de Osbourne, como «Crazy Train», «Goodbye to Romance», «Suicide Solution» y «Mr. Crowley», esta última basada en la vida del famoso ocultista Aleister Crowley.[59] Ese año la agrupación se embarcó en una gira denominada Blizzard of Ozz Tour que los llevó a tocar en Europa y Norteamérica. El 7 de noviembre de 1981 publicaron Diary of a Madman. Este álbum es reconocido por los sencillos «Over the Mountain» y «Flying High Again». Osbourne explicó en sus memorias que Diary es su álbum favorito.[10]
Tommy Aldridge y Rudy Sarzo reemplazaron a Kerslake y a Daisley en la agrupación. Aldridge había sido la primera opción de Ozzy como baterista, pero un compromiso con Gary Moore no hizo posible su entrada a la agrupación en primera instancia.[55] Sarzo había tocado con la banda Quiet Riot con el guitarrista Rhoads, quien lo recomendó para suplir a Daisley. Por su trabajo en los dos primeros discos de la banda, Randy Rhoads fue ubicado en la posición 85 entre la lista de los mejores guitarristas de la historia publicada por la revista Rolling Stone en el año 2003.[60]