Baumgartner foi afastado do torneio depois de ter sofrido uma lesão na coxa antes da vitória por 1-0 em jogo de preparação com a Tunísia, na segunda-feira.
A ausência do jogador do RB Leipzig, de 26 anos, é vista como um duro golpe para a Áustria.
"É, naturalmente, uma notícia muito amarga para o Christoph e para nós enquanto equipa", afirmou Rangnick.
A equipa parte para os Estados Unidos esta quinta-feira, antes do jogo de estreia no Grupo J frente à Jordânia a 16 de junho, seguindo-se jogos contra a Argentina e a Argélia.