Stoltenberg begann seine Karriere auf einem Antbed Court, der sich auf der Baumwollfarm seines Vaters in New South Wales befand. 1987 gewann er den Jugendtitel der Australian Open, anschließend war er die Nummer eins der Jugendweltrangliste. Später in dem Jahr wurde er Profispieler.
1989 erreichte er in Livingston sein erstes Finale auf der Tour.
Seinen ersten Profititel gewann er 1993 in Manchester. Er gehörte auch zum australischen Davis-Cup-Team, das im selben Jahr nach einer Niederlage im Endspiel gegen Deutschland Zweiter wurde.
Stoltenbergs größter Erfolg bei einem Grand-Slam-Turnier war sein Halbfinaleinzug 1996 in Wimbledon, wo er sich dem späteren Gewinner Richard Krajicek geschlagen geben musste.
Während seiner Karriere gewann Stoltenberg vier Einzel- und fünf Doppeltitel auf der Tour. Seine besten Weltranglistenpositionen waren Platz 19 im Einzel und Platz 23 im Doppel. Seinen letzten Einzeltitel gewann er 1997 in Coral Springs. 2001 beendete er seine aktive Tenniskarriere.
Nach seinem Abschied vom Profitennis wurde er Trainer von Lleyton Hewitt.
Australien
Manchester
Houston
Gabriel Markus
Jonas Björkman
Toronto
Marcelo Filippini
Singapur
Madrid
Seoul
Goran Ivanišević
Marc Rosset.svg){kind=small}
Hongkong
Bermuda
Brett Steven