HTTPレスポンスの MIME type を text/csv などにしてエラーコード(400 bad Request)などを返すと、
ChromeやFirefoxなどのブラウザは「ファイルが見つかりません」という分かりにくいエラー画面を出してくる。

InternatExplorerだけは随分まともで、「Web ページが見つかりません 」と表示されるものの、HTTPステータスコードを表示してくれるしデバッガでも検出できる。
Safariはそのままbodyの内容を表示するようだ。というかMIME type を解釈してない？

ChromeやFirefoxでは CSV ファイルはダウンロードする設定になっているから、エラーコードを返されるとダウンロードできずどうしようもないのは分かる。
とは言え、404を返した時ならわかるけど、それ以外のエラーコードでも「ファイルが見つかりません」と表示しているのは困る...。

レスポンスボディがあるなら，Safariのでもいい気がします。
Hypertext Transfer Protocol -- HTTP/1.1 # 10.4 Client Error 4xx

User agents SHOULD display any included entity to the user.

なので，UA自身で処理できないtext/*なレスポンスボディをそのまま表示しても問題ないかと。

手元のIE10 on Win8 (x64, Desktop)はダウンロード開始しました。
localhostでなければ別の扱いかもしれませんが。
まぁ，デバッグ時はFiddlerが常駐していることが多いので，IEでの表示が見えなくても構わなかったりしますが……。

IE9だとダウンロードは開始されませんでした。Safariが一番分かりやすそうですね。
エラーの時はMIME type を text/pain にしておけば確実にボディを表示してくれるでしょうけど。