सन 2000 के मध्य में राउफ पाकिस्तान के सबसे बेहतरीन अंपायरों में से एक थे, इसके बाद उन्हें 2006 में आईसीसी के एलीट पैनल में चुना गया। उन्होंने अपने पहले टेस्ट में अंपायरिंग 2005 में की थी, जबकि सन 2000 में उन्होंने पहले वनडे में अंपायरिंग की थी। 2004 से वह वनडे पैनल में थे।
न्यूट्रल अंपायरों के दौर से पहले वह अलीम डार के साथ अंपायरिंग में पाकिस्तान का प्रसिद्ध चेहरा थे, लेकिन उनका करियर 2013 में समाप्त हो गया जब मुंबई पुलिस ने आईपीएल स्पॉट फिक्सिंग मामले में उन्हें आरोपी बनाया, जहां राउफ अंपारिंग कर रहे थे। राउफ ने आईपीएल सीजन खत्म होने से पहले भारत छोड़ दिया था और उसी वर्ष उन्होंने चैंपियंस ट्रॉफी से नाम वापस ले लिया। उसी साल के अंत में उन्हें आईसीसी के एलीट पैनल से बाहर कर दिया गया, आईसीसी ने बाद में कहा था कि ऐसा उनके जांच में नाम आने की वजह से नहीं किया गया था।
