長時間の HTTP リクエストを継続させたい

リクエストを受けた後のサーバの処理時間が長く、処理が終わってないのに経路上の proxy などが接続を切ってしまうので、なんとかならないかという相談を受けた。

断続的にデータが流れてればいいので、HTTP Status 102 Processing や 202 Accepted を返すとか?
Transfer Encoding: Chunked で小出しにダミーデータを返すとか?

どちらにせよ、普段使わない特殊なステータスコードやダミーデータをうまく取り扱えるようにクライアントを修正する必要がある。

そもそも HTTP はそういう長い処理の実行を待つという方式には向いていなんいだから、設計からやり直した方がいい。なんらかの非同期な仕組みを織り込んだ方が信頼性も確保できるし、ネットワークやサーバの資源も節約できるはず。

どうしても設計を変えられないんだったら、経路上の proxy やファイアウォール系の設定を全部変更して、データが流れていない場合の HTTP トランザクション切断までのタイムアウト時間を長くするとか。

または、接続が切れた後もサーバ上では処理を継続させるようにし、かつ処理結果をキャッシングする。クライアントがリトライしてきたらキャッシュしておいた処理結果を返すようにすれば、タイムアウトの発生確率を下げられる。

あとは、処理を分割して、レスポンスを返すまでの時間を短くするとか。DB の ACID を要求されないような処理じゃないと難しいけど。