Ferrara nació en El Bronx, de ascendencia italiana e irlandesa. Tuvo una educación católica, lo que luego influiría en su trabajo. A los 15 años de edad se mudó a Peekskill, Nueva York, donde asistió a la secundaria y conoció a Nicholas St. John y John McIntyre, que luego serían guionista e ingeniero de sonido de sus películas.
Ferrara empezó como director con films amateurs en Súper 8, cortos que serían la base de su primera película The Driller Killer (1979), una violenta explotación de un artista que sufre un colapso mental.
El film fue protagonizado por el propio Ferrara, además de escribir las canciones con el seudónimo de Jimmie Laine.