В 1985—1994 годах играл за «Карлсруэ» (в основном составе — с 1990, в национальной сборной — с 1995), 1 июля 1994 перешёл в «Баварию Мюнхен». В финале Кубка чемпионов-2001, в матче с «Валенсией», отразил три пенальти, обеспечив победу своей команде.

Назван лучшим голкипером в истории Чемпионатов Мира по количеству пропущенных голов(на ЧМ2002 года Оливер пропустил всего три мяча, один в матче против Ирландии на групповом этапе и два в финальном матче против команды Бразилии).

На чемпионате мира в Германии 2006 года завершил выступления в сборной, сыграв в матче за третье место против сборной Португалии.

29 марта 2008 года вышел на третье место по количеству сыгранных матчей в чемпионате Германии, приняв участие во встрече с «Нюрнбергом» (1:1). Голкипер сравнялся с бывшим футболистом «Шальке 04» Клаусом Фихтелем, в активе которого 552 игры. Больше матчей в бундеслиге провели лишь Манфред Кальц (581) и Карл-Хайнц Кербель (602). По окончании сезона 2007/08 завершил карьеру.

2 сентября 2008 года на стадионе «Аллианц Арена» состоялся прощальный матч, в котором Кан защищал ворота «Баварии», которой противостояла сборная Германии. По предварительной договоренности, на 75-ой минуте его должен был сменить новый основной голкипер клуба Рензинг. На 33 минуте Троховски вывел вперёд сборную Германии — это был последний пропущенный мяч в карьере Кана, а на 51 минуте Клозе сравнял счёт. Ровно через 75 минут после начала матча Маркус Мерк остановил матч, и голкипер после круга почёта покинул поле, а через 3 минуты встреча была досрочно завершена.

В данный момент Кан работает телеведущим на одном из немецких телеканалов и комментирует матчи Бундеслиги и сборной Германии.

------------------------------------------------------------------------------------------------------------------------------- --

Финалист ЧМ-2002
Бронзовый призёр ЧМ-2006
Чемпион Европы: 1996
Чемпион Германии: 1997, 1999, 2000, 2001, 2003, 2005, 2006, 2008
Обладатель Кубка Германии: 1998, 2000, 2003, 2005, 2006, 2008
Обладатель Кубка немецкой лиги: 1997, 1998, 2000, 2004, 2007
Обладатель Кубка УЕФА: 1996
Победитель Лиги Чемпионов УЕФА: 2001
Обладатель Межконтинентального кубка: 2001
Лучший футбольный вратарь мира: 1999, 2001, 2002
Лучший футбольный вратарь Европы: 1999, 2000, 2001, 2002
Футболист года Германии: 2000, 2001
Лучший вратарь Бундеслиги: 1994, 1997, 1998, 1999, 2001
Лучший игрок чемпионата мира: ЧМ-2002
Обладатель приза Льва Яшина, лучшему вратарю чемпионата мира: 2002
Приз УЕФА за честную игру: 2001
Входит в список ФИФА 100