『ドリーム』に学ぶ生成AI時代の責任〜「ChatGPTが言ってました」で済ませない〜

60 年前の NASA が投げ掛ける問い

1960年代のアメリカを舞台にした映画『ドリーム』は、NASAの宇宙開発を陰で支えた黒人女性たちの実話に基づく作品です。3人の主人公がそれぞれに差別と向き合い、乗り越えていく姿が描かれています。

本記事では、そのうちの一人であるキャサリンに注目します。彼女は「計算手（コンピューター）」として、人力でロケットの軌道を計算する重要な役割を担っていました。物語は、彼女の周囲で進む技術革新と、計算結果の責任を誰が負うのかという問題を軸に展開していきます。

物語の中盤には、「IBM 7090」という大型電子計算機が登場します。このマシンは、最新型のコンピューターで、人間に代わって膨大なデータを高速かつ正確に処理する能力を備えていました。テクノロジーが人の能力を凌駕し始めたとき、成果物に対する責任は誰が負うべきなのか ──この問いは、現代の生成AIをめぐる議論とも深く重なります 。だからこそ、今あらためて見直したい1作です。

この責任劇の中心人物は次の4人です。

キャサリン・ゴーブル・ジョンソン … 黒人女性数学者。人種・性差別が色濃い時代にあっても卓越した計算力で “計算手” として周囲の信頼を勝ち取る。
ポール・スタッフォード … スペース・タスク・グループ(STG) ヘッド・エンジニア。キャサリンに対して排他的で、彼女の成果を正当に評価しない人物。
アル・ハリソン … STG の責任者。成果で判断する実力主義者で、キャサリンの手腕を差別なく認めるリーダー。
ジョン・グレン … マーキュリー計画に挑む宇宙飛行士。自分の命を託す計画にて、計算を信頼できる人物としてキャサリンを名指しで指名した。

結論：アウトプットの責任を引き受けるのは人間だけ

成果物の責任は人間が取る
責任を負える者にこそ価値が残る

AI がどれほど高速・高精度でも、この根本原則は変わりません。

キャサリンの回答――信頼は根拠を答えられる人間に向かう

IBM 7090 がまだ調整段階だったころ、帰還カプセルの着水地点に関する会議が開かれます。白人男性しかいない会議室にキャサリンが入室すると訝しむ空気が漂います。

会議にてSTG責任者のハリソンがポールに軌道周回速度を尋ねると、ポールはレポート（キャサリンが書いたが、彼女が著者に名を連ねることを認めなかった）をめくるばかりで答えられません。沈黙が伸びた瞬間、キャサリンが声を上げます。

「時速 2 万 8234 キロ」

資料も見ずに答えるキャサリンに対して、会議の参加者は驚きます。

続けて着水地点の計算がいつ完了するかという質問が挙がると、ハリソンはキャサリンにチョークを差し出し、

「キャサリン。やってみろ」

と命じます。キャサリンは黒板に向かい、その場で着水地点を算出。会議に参加していた宇宙飛行士ジョン・グレンからの信頼を勝ち取ります 。

ポールの過ち――“IBMが間違えた”では責任を逃れられない

しかしIBM 7090が本格稼働を始めると、ハリソンはキャサリンにこう告げてチームから外します。

「IBMの計算の速さに勝てる人間はいない。君も含めてな」
「つまり計算係は不要になった」

ところがマーキュリー計画発射当日、IBM 7090が算出した着水座標が前日の値と食い違う事態が発生します。もし計算に誤りがあれば、飛行士の命が失われかねません。事態に気づいたハリソンはポールを問いただします。

「ポール着水座標が昨日の数値と違うぞ」
「IBMの計算結果です」
「IBMが昨日間違えたのか？または ──今日間違えたかだ。ポール、そうだろう？」
「そのようです」

ハリソンは電話で宇宙飛行士ジョン・グレンに状況を伝え、計算結果の確認中であることを告げます。それに対してグレンは、

「あの切れ者が正確だと言うなら飛びます」

とキャサリンを指名します。事態を知らされたキャサリンは急遽IBM 7090の計算結果を検算し、正しい値を導出。急いで管制室へ届けたことで無事に打ち上げは成功し、その後の着水地点もキャサリンの計算通りでした。

キャサリンとポール――成果物へのスタンスの違いを読み解く

キャサリンが示したのは、「理解して、説明できて、責任を背負う人」が最後に価値を持つ という普遍原則でした。聞かれた数値を空で答えられること、質問に対してその場で答えを示すこと──その姿勢がハリソンからの評価を勝ち取り、ジョン・グレンから指名される信頼につながります。

一方のポールは、キャサリンのレポートを細部まで理解しておらず質問に答えることができませんでした。IBM 7090を導入した後も、ハリソンに指摘されるまで値の食い違いに気づきませんでした。
人間の部下であろうと、メインフレームであろうと、ポールは一貫して成果物を詳細に把握しておらず責任を持てない様子が描かれます（そもそもキャサリンが呼ばれたのはポールの計算結果に誤りがあったためであり、ポールには当該業務において、少なくとも十分な計算能力は有していません。なのに、キャサリンの能力を認めません。やなヤツ！）。

まとめ

60 年を経ても変わらない教訓は、「成果物の最終責任を背負えるのは人間だけ 」という一点に集約されます。1961年のIBM 7090も、現代の生成AIも、人間が理解し、説明し、誤りがあれば是正し、そして責任を負う姿勢なしには真価を発揮できません 。

IBM 7090の計算結果に疑いを持たず数値のズレを見逃したポールは、ヘッド・エンジニアとして自分こそが最終責任を負うべきだ という意識を欠いていました。同様に「ChatGPTが言ってました」で済ませる私たちも、責任感を失えば同じ過ちを繰り返すことになります。生成AIを活かす鍵は、自ら理解し、説明し、誤りを正す覚悟 です。

引越し作業で浮いた時間でふと見始めた映画でしたが、思いがけず最近の生成AIを彷彿とさせる内容で面白かったです。本記事では触れませんでしたが、人種差別と性差別の中で前に進む3人の黒人女性の生き様には勇気づけられます。これまで見た映画でベスト5に入ります 。

ドリーム (字幕版)

※ サムネイルは「NASAのマーキュリー計画で使われたデュアル構成の 7090」
https://ja.wikipedia.org/wiki/%E3%83%95%E3%82%A1%E3%82%A4%E3%83%AB:NASAComputerRoom7090.NARA.jpg

『ドリーム』に学ぶ生成AI時代の責任 〜「ChatGPTが言ってました」で済ませない〜