O Rovers ocupa a 23.ª posição na tabela classificativa após 20 jogos e corre o risco de descer à Vanarama National League, quinto escalão, que é maioritariamente semi-profissional.
Horseman foi demitido após a derrota de terça-feira na segunda ronda da Taça de Inglaterra, frente ao Blackpool.
Deeney, que passou a maior parte da sua carreira como jogador no Watford e levou o clube à subida à Premier League por duas vezes, juntou-se ao Rovers como treinador no início desta época, vindo do Birmingham City.
"Sei que os adeptos vão ter muitas perguntas, que serão respondidas o mais rapidamente possível. Não nos vamos esconder da tarefa que temos pela frente e vamos ser abertos e honestos ao longo do caminho", afirmou Deeney num comunicado.
"Uma coisa que posso garantir a toda a gente é que vamos dar o nosso melhor para levar este clube maravilhoso de volta ao sucesso. Este é um novo papel empolgante com muitos desafios que vou abraçar e há muito trabalho para fazer".
O primeiro jogo de Deeney no comando do Forest Green Rovers será em casa, contra o Gillingham, na sexta-feira.