Aprendió a tocar el violín de pequeño, pero pronto lo sustituyó por la guitarra eléctrica. Comenzó su periplo en la música profesional con la banda The Dictators en 1973. Más tarde formó parte del grupo Shaking Streets, con los que, teloneando a Blak Sabbath, conoció a Joey DeMaio que por entonces estaba en el susodicho grupo Black Sabbath, con el que congenió y juntos concibieron el famoso grupo de heavy metal Manowar, donde Ross permaneció hasta 1988 y fue sustituido por David...