Entre 2009 e 2016, defendeu a camisola branca no Bernabéu. Foi um verdadeiro soldado de José Mourinho nos anos dos duelos intensos entre Real Madrid e Barcelona, o que lhe valeu o carinho e o apoio de uma parte dos adeptos merengues.
O espartano conquistou duas Champions League, uma Supertaça Europeia, um Mundial de Clubes, uma Liga, duas Taças do Rei e uma Supertaça de Espanha durante o seu percurso na equipa principal do Real Madrid. A sua era como lateral-direito coincidiu com o período de maior sucesso da seleção espanhola, com a qual alcançou o triplete (Euro 2008-Mundial 2010-Euro 2012), sendo peça fundamental na conquista do Europeu da Polónia-Ucrânia.
Arbeloa, que envergava o mítico número 17 nas costas, deixou o Real Madrid no final da época 2015-2016, quando assinou pelo West Ham, clube onde terminou a carreira.
Do Castilla para o Bernabéi
O novo treinador do Real Madrid regressou à casa blanca em setembro de 2020 para assumir o comando da equipa sub-14, passando a liderar o juvenil A, dois anos depois.
No dia 28 de maio de 2025 surgiu-lhe a oportunidade de orientar o Castilla, sucedendo a outro ícone do clube, Raúl González Blanco. Esta temporada, deixou a equipa B merengue na quarta posição do Grupo I da Primeira Federação, com 31 pontos, 10 vitórias, um empate, oito derrotas, 25 golos marcados e 25 sofridos.