Les travaux de conception du premier gros avion de Tupolev, le bimoteur ANT-4, ont commencé avant le premier vol de l'ANT-3. A été construit au deuxième étage d'une ancienne maison de commerçant de Moscou, qui faisait partie des locaux du TsAGI. Les murs durent être abattus et les composants transportés à l'aérodrome central pour être assemblés avant le premier vol de sept minutes le 26 novembre 1925.
Monoplan en porte-à-faux à ailes basses propulsé par deux moteurs Napier Lion de 336 kW, le prototype TB-1 ou Tupolev ANT-4 a effectué son vol inaugural sur train d'atterrissage à ski le 26 novembre 1925. Destiné principalement au rôle de bombardier lourd, l'ANT-4 était de construction entièrement métallique avec revêtement en tôle ondulée et nez vitré.
Le deuxième avion était le véritable prototype du bombardier TB-1 ; piloté initialement en juillet 1928, il avait une section avant redessinée avec un cockpit de tireur de type « balcon » et un équipage de cinq personnes, dont trois tireurs, et était propulsé par deux moteurs BMW VI de 544 kW. Un troisième prototype, désigné ANT-4bis, avait des nacelles de moteur révisées et un armement accru.
La première machine de série a été réalisée comme avion de propagande ; Nommé Strana Sovietov (Terre des Soviétiques), il était équipé pour un vol par étapes à travers la Sibérie et vers New York, mais fut bientôt gravement endommagé lors d'un atterrissage forcé. Un deuxième avion fut préparé et effectua le voyage, utilisant selon les cas des roues ou des flotteurs, et ce deuxième Strana Sovietov (URSS-300) parcourut 21 242 km entre son départ de Moscou le 23 août 1929 et son arrivée à New York le 1er novembre.
Dans sa forme de production, comme le bombardier lourd TB-1, l'ANT-4 était armé de trois paires de mitrailleuses DA de 7,62 mm, dans le nez et dans deux positions dorsales. Deux cent seize furent produits dans l'ancienne usine concessionnaire Junkers de Fili, Moscou, qui avait été reprise par les autorités soviétiques en juillet 1926.
La production du TB-1 s'est poursuivie jusqu'en août 1932, un total de 152 exemplaires ont été livrés ainsi que 66 hydravions bombardiers/torpilleurs à double flotteur TB-1P.
Le TB-1 a également été utilisé dans un certain nombre d'expériences, notamment des essais de pilotes automatiques et de drones, le ravitaillement en vol d'autres avions, des décollages assistés par fusée et des largages de parachutes cargo. Il s'agissait du premier monoplan cantilever bimoteur entièrement métallique à entrer en production dans le monde. Les avions retirés de l'armement sous la désignation G-1 ont été transférés à Aeroflot, où ils ont été utilisés comme cargo-passagers, puis comme purement fret.
Une quarantaine d'avions furent transférés à l'aviation polaire, où ils volèrent jusqu'en 1945.