O português iniciou sua carreira profissional no pequeno Fafe, jogou no Benfica e, em 1994, a Fiorentina interessou por seu futebol. Porém, o clube italiano entrou em falência e precisou negociar Rui Costa. O técnico turco Fatih Terim, que comandou a equipe de Florença em 2000/2001, foi contratado pelo Milan e levou o português consigo por 36,6 milhões de euros, a contratação mais cara da história da equipe milanesa até hoje. Rui disputou cinco temporadas no clube, conquistando um título do Campeonato Italiano, uma Copa da Itália, uma Supercopa da Itália, uma Copa dos Campeões e uma Supercopa da Europa. Em 2006, Rui Costa voltou ao Benfica, clube em que ficou até se aposentar em 2008.