キハ２１はキハ２０の寒地向きとして昭和３２年に登場しました。しかし、デッキが無く直接外気が客室に吹き込むため、酷寒地向きではありませんでした。後に、これらの問題を改良した決定版、キハ２２形が登場したため、製造は８０余輌にとどまりました。

台車は１０系気動車と同じＤＴ１９。枕バネにゴムブロックを使用したこの台車を履いた当形式は、脳天に振動が響くような乗り心地で、また、制動時には特有のビビリ振動が発生し、乗り心地は決して褒められたものではありませんでした。いかし、その乗り心地も今となっては懐かしい思い出です。後に幾輌かＤＴ２２に換装された車輛も存在しましたが、この２０号車もその一輌です。