1988-ban kezdett el autókkal versenyezni a német Formula König sorozatban.[11] A bajnokság tíz futamából kilencet megnyert, egyen a második helyen végzett. Ugyanebben az évben hatodik helyet szerzett a német Forma–Ford 1600 bajnokságban (a 12 versenyből álló bajnokságban csak 10 futamon vett részt) és második lett a Forma-Ford 1600 Európa-bajnokságban (az 5 versenyből álló bajnokságban 4 versenyén vett részt). Ebben az évben találkozott Willi Weberrel, aki egy német Formula–3-as csapat, a WTS csapatfőnöke volt és fiatal tehetségek felkutatásával foglalkozott. Webernek egy esős futamon tűnt fel Schumacher remek autókontrollja a vizes aszfalton és 1989-re leszerződtette csapatába, valamint menedzsere lett a versenyzőnek.[10]
Első Forma–3-as szezonjában a német bajnokság harmadik helyén végzett Karl Wendlinger és Heinz-Harald Frentzen mögött. Utóbbival pontegyenlősége volt (163 pont), előbbi egy ponttal előzte meg. Ugyanebben a szezonban elindult a Makaói Forma–3-as Világkupán is (amelyen a világ különböző Forma–3-as bajnokságainak legjobbjai mérik össze tudásukat). Az első futamot megnyerte, a másodikban azonban kiesett.
1990-ben megnyerte a német Forma–3-as bajnokságot és a Makaói Világkupát is, ahol Mika Häkkinen volt legnagyobb riválisa. Néhány héttel később a Forma–3-as Fuji Kupát is megnyerte és a Makaó–Fuji duplázással – ami előtte még soha senkinek nem sikerült – 30 ezer dolláros pénzjutalmat kapott.[11]
Ugyanebben az évben az 1989-es Forma–3-as bajnokság első három helyezettje, Wendlinger, Frentzen és Schumacher lehetőséget kapott arra, hogy részt vegyen a Mercedes-Benz pilótaképző programjában, az ún. „junior programban”, amelynek az volt a célja , hogy versenyzőket neveljen ki arra az esetre, ha a stuttgarti gyár beszáll a Forma–1-be (ez 1993-ban történt meg). A három fiatal pilóta a C-csoportos sportautó világbajnokságban vett részt a Sauber-Mercedesszel. Kilenc versenyt futottak a sorozatban, egy autót minden versenyen két pilóta vezetett felváltva. A törzspilóta a tapasztalt egykori Forma–1-es versenyző, Jochen Mass volt, míg a fiatalok futamról futamra váltották egymást az oldalán. Négy futamon vett részt Masszal, ebből egyen diszkvalifikálták őket, kettőn második helyet értek el, egyet pedig megnyertek (Mexikóváros). Wendlinger szintén négy versenyt futott le Mass oldalán és az ő kettősük is egy futamot nyert. Wendlinger és ő azonos ponszámmal a bajnokság ötödik helyén végzett, a Sauber-Mercedes pedig csapatvilágbajnok lett. Frentzen csak egy versenyen indult, mivel ebben az évben elhagyta a Mercedest és leszerződött a Jordan Forma–3000-es csapatához.
1991-ben már Wendlinger volt csapattársa, a Sauber-Mercedes azonban rendkívül megbízhatatlan volt. A fiatal kettős nyolc futamból mindössze hármon ért célba – igaz, ebből egyet megnyertek (Autopolis), egyen másodikak lettek, a Le Mans-i 24 órás versenyen pedig – ahol Schumacher futotta meg a verseny leggyorsabb körét – Fritz Kreutzpointerrel kiegészülve az ötödik helyen végeztek legjobb mercedesesként.[11]
1991-ben „vendégszerepelt” a német túraautó bajnokságban, a DTM-ben és a Japán Forma–3000-ben is. A DTM-ben – ahol szintén a Mercedes színeiben indult – az utolsó futamon ütközött a bajnoki pontversenyben vezető Johnny Cecottoval (BMW) és ezzel önkéntelenül is bajnokká tette márkatársát, Klaus Ludwigot. A Japán Forma–3000-ben a sugói futamon indult el és a második helyen végzett.