Вся игровая и большая часть тренерской карьеры Шаафа связана с немецким "Вердером", который он возглавлял до 2013 года. Позднее специалист тренировал "Айнтрахт" из Франкфуркта.