Schmeichel iniciou a sua carreira futebolística no Gladsaxe-Hero, onde esteve três anos. Em seguida, transferiu-se para o Hvidovre e também conquistou um lugar na seleção nacional. Antes da época de 1987, mudou-se para a capital, onde representou o Bröndby e alcançou vários êxitos com a equipa. Conquistou quatro vezes o título nacional e ganhou também a Taça da Dinamarca.
De 1991 a 1999, esteve no Manchester United, em Inglaterra, onde teve o período de maior sucesso da sua carreira. Jogou quase 400 jogos pelos Red Devils em todas as competições e ganhou 15 troféus com a equipa. Cinco deles foram na Premier League (1992/93, 1993/94, 1995/96, 1996/97, 1998/99), três vezes na Taça de Inglaterra (1993/94, 1995/96, 1998/99) e uma Liga dos Campeões (1998/99), com a icónica reviravolta em Barcelona frente ao Bayern.
Em janeiro de 1994, desentendeu-se com o então treinador Alex Ferguson. No entanto, Schmeichel manteve-se no clube e terminou a passagem em Manchester com a conquista da treble. Em 1999, o United tornou-se o primeiro clube inglês a ganhar a Premier League, a Taça de Inglaterra e a Liga dos Campeões na mesma época. Foi substituído como guarda-redes pelo holandês Edwin van der Sar.
É como campeão europeu que Schmeichel aterra em Lisboa e ajuda o Sporting, a colocar fim a um jejum de 18 anos no que toca a conqusitas do campeonato. Da Península Ibérica, regressou a Inglaterra em 2001, após 70 jogos de leão peito. Esteve um ano no Aston Villa e o seu último clube foi o Manchester City. A transferência provocou ressentimentos entre os adeptos do United, uma vez que as duas equipas têm uma grande rivalidade entre si.
Com os Citizens fez dois jogos no dérbi de Manchester. Numa delas o City venceu e na outra o duelo terminou empatado. Schmeichel nunca esteve do lado dos derrotados. Terminou a carreira em abril de 2003, com um registo invulgar para um guarda-redes: 11 golos, um dos quais pela seleção nacional.
Entre 1987 e 2001, participou em 129 jogos pela Dinamarca e foi durante muito tempo o recordista do país. Só foi ultrapassado em outubro deste ano pelo defesa Simon Kjaer. Representou o país no Campeonato do Mundo de 1998 e em três outros Europeus, para além do bem sucedido Euro-1992.
Ganhou inúmeros prémios individuais e é considerado um dos melhores guarda-redes de todos os tempos. Em 1992 e 1993, foi premiado pela Federação Internacional de Estatísticas do Futebol (IFFHS), que também o colocou entre os 10 melhores guarda-redes do século XX. Recebeu o prémio três vezes (1992, 1993, 1998) da UEFA. Foi condecorado com a Ordem do Império Britânico (MBE) e é membro do Hall da Fama do Futebol Inglês e Dinamarquês e da Premier League.
Após a sua carreira, trabalhou para a BBC e, mais tarde, para a televisão dinamarquesa TV3+. Desde 2021, tem trabalhado com a estação de televisão americana CBS Sports durante os jogos da Liga dos Campeões. O filho Kasper é também guarda-redes, atualmente no Anderlecht da Bélgica, e faz também parte da seleção nacional.
Tal como o pai, teve o seu período de maior sucesso em Inglaterra. Jogou 479 jogos pelo Leicester ao longo de 11 anos. Durante a era mais bem sucedida dos "Foxes" na história do clube, conquistou o título da Premier League com a equipa (2015/16), a Taça de Inglaterra (2020/21) e também venceu a Supertaça de Inglaterra (FA Community Shield) em 2021.