Avant de faire de la bande dessiné, il a été staffeur, figurant à la Comédie Française, vendeur de journaux, etc…
C’est en 1956 qu’il débute dans l’hebdomadaire Vaillant avec les aventures de Richard et Charlie. En 1958, c’est la naissance de Totoche, ses aventures paraîtront pendant 14 ans. Dans le même journal, devenu Pif Gadget, il crée aussi Grabadu et Gaba – Liouchtou et Corinne et Jeannot.
En 1961, collaboration au journal Pilote (Editions Dargaud) avec Valentin le Vagabond, au début, sur des scénarios de Goscinny, la série paraîtra régulièrement jusqu’en 1967. Elle reparaît en 1973 dans Pilote en même temps que la parution du premier album.
Enfin, en 1962 dans le n°1 de Record création avec René Goscinny, pour les scénarios, des aventures du Grand Vizir Iznogoud.appelé dans les premières années Les Aventures du Calife Haroun El Poussah.
En 1968, cette excellente série paraitra en même temps dans Record et le journal Pilote.
En 1979, Jean Tabary créé sa propre société d’édition.