Son premier grand chantier fut, en 1858, le pont ferroviaire de 500 mètres de long de Bordeaux dont il assura la direction des travaux. Une prouesse technique qui lui permit de tester toute une série d'innovations qui firent sa force par la suite.
Fort de ses premiers succès, il fonda sa propre société en 1866. Son talent conjugué à sa vivacité à saisir toute nouvelle idée ou projet et sa grande capacité à s'entourer de brillants collaborateurs, contribuèrent à la réussite de l’entreprise qui emporta alors plusieurs grandes commandes d'édification de viaducs et de bâtiments à structure ou charpentes métalliques. Pour ce faire, il n'hésita pas à parcourir l'Europe entière.
Hangars, gares, galeries, ponts et viaducs, la liste des réalisations des ateliers Eiffel est impressionnante. Mais, bien au-delà de leur aspect utilitaire, de la maîtrise de techniques et d’innovations, Eiffel offrit aussi de véritables œuvres d’art qui encore de nos jours s’intègrent autant dans les paysages français que portugais, belges, algériens, suisses ou encore vietnamiens, hongrois, boliviens, etc.