Le bombardier de pré-production Ki-21 a effectué son premier vol à la fin de 1936. La production en série de sa première modification, le Ki-21-Ia, a commencé en 1938, l'année même où l'avion a fait ses débuts au combat. Les unités aériennes de l'armée impériale japonaise, équipées du Ki-21-Ia, ont participé à des opérations de combat actives en Chine. Au printemps 1939, le Ki-21-Ia participa à des opérations de combat contre l'Armée rouge sur la rivière Halhin Gol. La charge utile de combat de l'avion de 1 000 kg était un bon indicateur de son époque et permettait des bombardements massifs, et les tactiques défensives développées par les pilotes de ces bombardiers lors des batailles aériennes entraînaient des pertes relativement faibles par rapport aux autres types d'avions. Après la production de modèles plus avancés, les premiers bombardiers modifiés furent transférés aux unités d'entraînement, même si un certain nombre de Ki-21-Ia continuèrent à être exploités par des unités de combat. Les pilotes américains, qui ont donné leur propre nom aux avions japonais, ont appelé les bombardiers Ki-21 « Sally ».
Marquages
Ki-21-Ia 'Sally', l'un des avions de pré-production, 60e Sentai (60e groupe aérien), Chine, début 1939
Ki-21-Ia 'Sally', 60e Sentai (60e groupe aérien), Chine, 1941
Ki-21-Ia 'Sally', 14e Sentai (14e groupe aérien), probablement Chine, 1941
Ki-21-Ia 'Sally', 105 Kyoiku Hiko Rentai (105th Training Flight Regiment), vraisemblablement 1942
Ki-21-Ia 'Sally', 64e Sentai (64e groupe aérien), 1943