Prace nad nowym samolotem myśliwskim, w którym zastosowane byłyby najnowsze ówczesne rozwiązania techniczne, rozpoczęły się w zakładach Fokker pod koniec 1934 roku. W 1935 roku Holenderskie Siły Powietrzne zamówiły prototyp, który miał zostać poddany ocenie przez ich odpowiednik w Holenderskich Indiach Wschodnich. Samolot został uznany za zdatny do obrony zamorskich kolonii Holandii.

Po odbyciu pierwszego lotu w 1936 roku projekt, choć obiecujący, został wstrzymany z powodu zmian w koncepcji obrony powietrznej. Fokker zaczął więc szukać potencjalnych nabywców maszyny za granicą.

Pomyślnie dla Fokkera, wśród potencjalnych nabywców znalazły się Dania i Finlandia. Oba kraje były zainteresowane zarówno kupnem gotowych egzemplarzy maszyn, jak i nabyciem licencji na produkcję. Równocześnie władze Holandii ponownie zainteresowały się myśliwcem, co zaowocowało w 1937 roku rozpoczęciem produkcji seryjnej.

Fokker D.XXI, mimo że był konstrukcją holenderską, w największej liczbie egzemplarzy wyprodukowany został w Finlandii, tam też był intensywniej wykorzystywany. W kraju tym powstało i służyło około dwóch trzecich wszystkich zbudowanych egzemplarzy Fokkera D.XXI. Myśliwce wyróżniły się w działaniach podczas wojny zimowej, a także później, w czasie tak zwanej wojny kontynuacyjnej — choć już z mniejszymi sukcesami, jako że wówczas był to już samolot przestarzały. Holenderskie D.XXI również walczyły, broniąc holenderskiego nieba w czasie inwazji hitlerowskich Niemiec. Piloci Fokkerów D.XXI odnieśli pewną liczbę powietrznych zwycięstw, w tym nad kilkoma przewyższającymi je Messerschmittami Bf 109.