Vývoj Ki-108 započal v dubnu 1943 poté, co se společnost Kawasaki rozhodla splnit stálý požadavek japonské císařské armády na těžkou záchytnou stíhačku. Továrna v té době již měla na kontě sérii těžkých stíhaček Ki-45 Tórjú a vyvíjela i letouny Ki-102 a Ki-96. Právě kombinací dvou posledních jmenovaných strojů vznikl design letounu nazvaného jako Ki-108. Po prvních náletech moderních amerických těžkých bombardérů B-29 Superfortress se pak potřeba po výškovém záchytném stroji stala ještě výrazněji. Z výrobních linek byly staženy dva trupy letounu Ki-102 Otsu, které měly posloužit jako základ pro dvojici prototypů Ki-108. Ve srovnání s Ki-102, který byl navržen jako bitevní letoun do malých výšek, byl Ki-108 stavěn jako stroj pro operace ve velkých výškách. Trup proto musel být odpovídajícím způsobem upraven – kokpit byl výrazně zkrácen a vybaven přetlakováním. Z Ki-108 se tak oproti Ki-102 stal jednomístný letoun, což přineslo úsporu hmotnosti, snížení zátěže motorů a v důsledku toho i zlepšení výkonů ve velkých výškách.

První dvojice prototypů byla dokončena v červnu, respektive v srpnu 1944. Vedle nich pak vznikla i vylepšená verze Ki-108 založená na letounu Ki-102 Hei, která měla ve snaze o vylepšení výkonů ve výškách zvětšené rozpětí křídel a prodloužený trup. Dva kusy nové verze, označené jako Ki-108 Kai byly následně během roku 1945 vyrobeny a otestovány. Zhoršující se válečná situace ale měla za následek přerušení testů. Obě varianty Ki-108 tak nikdy nepřekročily fázi prototypu, ani nebyly bojově nasazeny a počet vyrobených kusů se tak zastavil na čísle 4.