米国南部にある老人ホームの娯楽室。ＴＶでは映画『トップ・ハット』の、フレッド・アステア＆ジンジャー・ロジャースが“頬よせて”を歌い踊る名場面 が流れている。それを観たポール・エッジコムは、涙を浮かべながら席を立ってしまう。心配してついてきた友人のエレインに、ポールは60年前の1935年の日々を語り始めるのだった……。 大恐慌時代。ジョージア州のコールド・マウンテン刑務所で看守主任を務めるポールは、死刑囚舎房のＥブロックが受け持ちだ。彼の下で働くのは、副主任のブルータル、ハリー、ディーンら気のいい看守たち。彼らは、グリーンマイルと呼ばれる廊下を通 って処刑室に向かう受刑者たちを、できるだけ安らかに死なせてやるように務めていた。ただひとり、州知事の義理の甥にあたる新人のパーシーを除いては。彼は、常に自分のバックについている人物のことをほのめかし、受刑者たちをいじめる卑劣な性格の持ち主だった。 Ｅブロックには、ネイティブ・アメリカンのビターバックと、フランス系南部人のドラクロア（通 称デル）の二人の死刑囚がいる。そこへ、ある日２人の少女殺害事件の犯人として、ジョン・コーフィという黒人の男性が送られてくる。身長が2メートル以上もある彼は、物静かで暗闇を怖がり、その目はいつも涙であふれているようだった。
　数日後、新たな受刑者で“ワイルド・ビル”の異名を持つ、凶悪犯のウォートンが加わる。鎮静剤を打たれたフリをしていた彼は、やってくるなりディーンを死に目に合わすほどの凶暴ぶりを見せる。騒動の後、尿路感染症のために激痛に襲われたポールを、コーフィは近くに来て欲しいと呼びかける。フラフラになりながらもコーフィの独房の前に行くと、ポールは彼に痛いところを手でつかまれる。驚くポール。だが、次の瞬間にポールから嘘のように痛みが消えていた。その時、ポールはコーフィが持つ不思議な力をはっきりと認識したのだった。次第に心優しいコーフィが恐ろしい殺人を犯したとは信じられなくなったポールは、彼の官選弁護人をつとめたハマースミスを訪ねる。だが、ハマースミスはコーフィの有罪を確信していた。 デルの処刑前日、彼がかわいがっていたネズミのミスター・ジングルスを、パーシーが踏みつけ瀕死の状態に陥らせてしまう。