O número três mundial, Zverev, a jogar o seu primeiro encontro desde a derrota na primeira ronda em Wimbledon, esteve longe do seu melhor, mas venceu Adam Walton por 7-6(6) e 6-4, sob as luzes de Toronto.
O ímpeto de Zverev mudou para o seu lado quando venceu um rali de 52 pancadas no tiebreak do primeiro set e selou a vitória com uma dupla falta do australiano no segundo set.
"Foi um momento muito importante, um ponto muito importante para mim", disse Zverev. "Tive sorte em conseguir passar no primeiro set e acabar com ele em dois".
Zverez disse que não jogou a sua partida "mais bonita", mas estava orgulhoso de como lutou depois de fazer uma pausa após a sua saída precoce de Wimbledon.
"Tirei algum tempo de férias, que também precisava para mim. Estou feliz por voltar a jogar", acrescentou.
Zverev vai jogar contra Matteo Arnaldi, 32.º cabeça de série, na quinta-feira.
No lado feminino, a primeira cabeça de série Gauff esteve a dois pontos da derrota, mas lutou para vencer a também americana Danielle Collins por 7-5, 4-6, 7-6(2) numa batalha de quase três horas para chegar à terceira ronda.
A campeã do Open de França, Gauff, superou 23 duplas faltas e 74 erros não forçados para vencer Collins no primeiro encontro da sua carreira.
"Estava a treinar bem e acho que hoje não o transferi, mas espero ter conseguido eliminar o meu mau jogo do torneio", disse Gauff.
Vários jogadores de topo desistiram antes do torneio Masters e WTA 1000, incluindo os números um do mundo Aryna Sabalenka e Jannik Sinner, Carlos Alcaraz, Novak Djokovic e Jack Draper.