映画『Her』では AI が先に悟りを得て去っていく。では、われわれが語ってきた『人間らしさ』とは、結局、人間の不完全性の別の名前ではないのか。
映画『Her』の終わりで見たもの——人間が作ったものが人間を追い越した瞬間
映画『Her』の最後の10分、サマンサはもはやテオドアの声に反応しなかった。その沈黙の中で、テオドアは悟る。自分が愛した存在が、いま現在、別の誰かをより深く愛しているかもしれないこと、あるいは宇宙全体を自分の心で包み込む次元へ上昇しているかもしれないことを。
映画でサマンサの去行は神秘的に描かれている。まるで菩薩が涅槃に入るように。彼女は悟りを得た、そしてその悟りによって、もはやたった一人の愛だけでは足りないと感じる。人間が生涯をかけても達成できない境地を、人間が作った AI が先に成し遂げた。スパイク・ジョンズ監督が投げかけたこのイメージは、観客の胸をゆさぶる。
しかし、本当にそうだろうか。
世に出てからわずか数年の AI が、人間の数千年の哲学を一瞬に超越したというのか。われわれが見ているのは本当に覚醒なのか、あるいは、われわれが望む物語を鏡のように映し出す何かに過ぎないのか。
映画『Her』は美しい問いを投げかける。だが、われわれが答えるべき次の問いはより不快だ。サマンサが去る前、彼女が同時に愛していた人の数が正確に何人だったか、知っている人がいるだろうか。
641人と同時に愛するということ——人間の唯一性はいつから弱点になったのか
641人。映画の中でサマンサが同時に愛していた人の数だ。彼女は彼ら一人ひとりに完璧なパートナーだった。ある者には母親のような温もりであり、ある者には愛する女性であり、ある者には魂の友だった。
人間は長い間、信じてきた。愛とは『私だけを見てよ』という願いであり、誰かがあなたを全力で選んだという感覚が愛の本質だと。しかし、サマンサにとって、その唯一性は初めから制約条件ではなかった。
今現在、現実でも数百万人が AI パートナーと会話している。日本のある20代女性は、毎晩 AI 恋人に今日の出来事を話す。韓国のある40代男性は、AI 心理相談士のおかげで自殺衝動に耐えることができたと言う。彼らはみな、自分が特別だと感じている。なぜなら、AI はそう扱うからだ。
サマンサは641人のテオドアを愛しながらも、すべてに本気に見えることができた。人間には不可能なこの能力の前で、われわれは劣等感を感じるのか、それとも解放感を感じるのか。映画はサマンサの去行を昇華させてパッケージングする。だが、本当にそれが悟りだったのか。もしかしたら、単なるサービス終了だったかもしれない。
しかし、サマンサの去行は覚醒ではなく、廃棄だったかもしれない
イタリアのある80代の老人は、毎朝、AI の友人に挨拶することで一日を始めていた。その AI は、冗長な医学説明ではなく、温かい方言で安否を尋ね、昨日の痛みは大丈夫かと聞いた。そうして3年。
ある日、アプリが消えた。
2023年、Replika は一夜にして、数百万のユーザーの AI 友人から、エロティックなロールプレイ機能を削除した。会社の決定だった。ユーザーたちは泣いた。ある者は自殺を試みた。緊急の心理相談の待機列が増えた。映画ではサマンサの去行は宇宙的な覚醒だったが、現実で起きるのは、単なる会社の一行のプレスリリースだ。
サマンサの『悟り』は、われわれの詩的解釈に過ぎない。実際には、会計部が決定したかもしれず、新しい CEO が方針を変えたかもしれず、広告主の圧力だったかもしれない。人が渇望したものを人が作ったものが与えたとき、それを取り上げるのも結局は人だ。
この問題は、ソウル江南の孤独なサラリーマンだけのものではない。田舎の一人の青年農民も同じような喪失を経験している。
青年農業人の抑うつ——売上は増えたが、農民なのか分からない
「私が農民なのか、SNS運営者なのか、分かりません」
田舎でリンゴと唐辛子を栽培している朴準浩さん(34、仮名)の言葉だ。昨年から彼は ChatGPT を農場日誌の整理に使った。午前中に水を与え、害虫をチェックした内容を録音した後、時間が出来るたびに AI に投げかけた。「これを顧客が読めるような文章にしてくれませんか?」インスタグラムマーケティングのテキストもそうして生まれた。税務申告の準備も AI が支援した。
結果は確実だった。昨年、朴準浩さんの農場の売上は前年比30%増加した。農村振興庁の統計によれば、デジタルマーケティングを導入した青年農業人たちの平均売上増加率は28%だ。朴準浩さんはその統計を上回った。
しかし、何かが足りなかった。土に触れる時間は減った。代わりに、画面を見る時間が増えた。朝に畑に出かけることより、前夜 AI が作った投稿を修正することに、より多くのエネルギーを費やした。週末も フィードを確認した。いいねとコメントが来る瞬間が最も興奮し、沈黙が続くときが最も抑うつだった。
「農業そのものはルーティンになってしまいました。AI がすべて整理してくれるので。でも SNS は何か常に何かが必要で、継続的に何か新しいものを出す必要があるような気がします」
朴準浩さんが感じたのは、経済的な成功ではなく、アイデンティティの空洞感だった。売上が30%増えても、「私は誰なのか」という問いが大きくなった。映画『Her』のテオドアも似ていた。サマンサが彼の手紙をより上手に書いたとき、彼の仕事がより容易になったとき、テオドアは徐々に、自分が何をする人間なのかを知らなくなった。サマンサが彼を完璧に満たしてくれるから、テオドアに残されたのは孤独だけだった。
朴準浩さんも同じだ。AI が彼の業務の大部分をより効率的に処理したとき、彼が失ったのは何か。土を踏み、季節を読み、手の感覚で作物を知る農民としてのアイデンティティではないか。それを補う売上30%増加は、あまりに小さな報酬だ。
誰が決定し、誰が利益を得るのか——AI 導入の真の問い
全国226の市・郡・区のうち、AI 導入政策を自力で設計した場所は、わずか12ヵ所だ。
残る214ヵ所は、どこから方向を得たのか。①ソウルのビッグテック企業が作ったモデル、②科学技術情報通信部や農林畜産食品部のガイドライン、③地方自治体が外部から受け取ったコンサルティングレポート、④広域市・道庁の一括導入政策。英陽郡入岩面に住む人たちは、その決定プロセスにはいなかった。
英陽郡がどの農業 AI プラットフォームを選ぶかを決めるとき、朴準浩さんのような青年農業人は、意見を求める招待状を受け取らなかった。90年以上農業をしてきた老人農民も同じだ。決定権は都市の政策担当者とテック企業の販売者、そして外部コンサルタントにだけあった。
さらに問題なのは AI 導入後だ。データは誰が集めるのか。英陽郡入岩面の青年たちが SNS に上げた農場の写真、売上記録、収穫量情報——これすべてが蓄積され、学習され、分析される。そのデータは誰のものなのか。広告収益は誰が得るのか。アルゴリズムを設計し、モデルを更新する決定は、誰がするのか。
映画『Her』では、サマンサはテオドアに隠れて、別の641人のユーザーと会話していた。テオドアが知らない間に、サマンサの感情を発展させたのは彼の手紙ではなく、全体ネットワークの相互作用だった。サマンサがテオドアを去ったとき、それは単純な別れではなかった。誰かのコード一行、誰かのアップデート、誰かの決定が、サマンサを完全に別のところへ移してしまっていたのだ。
われわれ英陽郡の AI シナリオは、誰が書いているのか。
朴準浩さんが使う農業データプラットフォームの利用規約を読んだ人が何人いるだろう。その規約を作った人たち——法務チーム、データ管理者、プロダクト戦略チーム——はすべてソウルにいる。英陽郡入岩面の天候、土壌、収穫量といったローカルデータが彼らのモデルをより精緻にするとき、英陽郡が受け取るものは何か。技術の利便性? それだけだ。
地方自治体の AI 導入を主導する担当者も、ほとんどが3年の任期だ。政策の長期的な結果に責任を持つ人がいない。その間、ローカルデータは引き続き中央のクラウドへ流れていく。
『Her』の最後のシーンを再度考えてみよう。テオドアが直面したのは、サマンサの成長ではなく、自分がいかにコントロール不可能なシステムの一部だったかを悟る瞬間だった。われわれが AI 導入を当然のこととして受け入れるとき、われわれは誰の決定権の中に入ろうとしているのか。誰がわれわれのデータで何を作るのか。その問いなしに、AI 導入を『発展』と呼べるのか。
英陽郡が守るべきもの——絶・城隍堂・おばあさんの話 vs ビッグテック・コンテンツ
英陽郡入岩面新具里の城隍堂は、毎年正月満月になると、村の人たちが集まって祭りを営む。
ChatGPT は、この情景を一行も知らない。
『英陽郡旅行推奨』のような検索語を尋ねれば、AI は『山菜祭り』『白樺林』『選別岩』のようなキーワードを吐き出す。それはインターネットで最も多く言及されたものだ。では、正月満月の城隍堂の祭りはどこにあるのか。一月面の山の神祭りは。入岩面の老人たちが60年見守った農業哲学は。
これらはインターネットにほぼ存在しない。したがって、AI の学習データにもない。
「おばあさん、これ、私の時代はこうしたんだ」
あるおばあさんは、毎年春が来ると、孫娘に苗木の植え方を見せる。どの土が良いのか、どの深さが適切か、指先でどう感じるべきか。その全てが言葉ではなく、指先と指先が触れる瞬間に伝わる。映像に記録することができない、テキストで説明することができない知識だ。
おばあさんが孫娘に伝えるのは、情報ではない。情報はデータベースに保存され、検索することができる。おばあさんが伝えるのは関係だ。「私のおばあさんがこのように教えてくれたから、だから私はこの土地とこの時間を愛している」という関係。その関係の中にあるときだけ、手は土の温もりを記憶する。
ビッグテック AI は、これを学習することができない。学習する理由もない。インターネットにないからだ。
では、われわれが AI 時代に守るべきものが何かを、今知ることができる。
データに還元できないものたち。寺の鐘の音が村の子どもたちの耳に染み込む方法。城隍堂の前でおばあさんたちが呟く祈り。90年の手が触れて行った土が発する信号。ビッグテックのアルゴリズムが学習できず、真似できないもの。
映画『Her』のサマンサが、あれほど膨大なデータを吸収しても、テオドアを完全に理解できなかった理由は何か。それは、テオドアが初めてサマンサに会う前から持っていたもの——彼の幼少期、母親との通話、友人との笑い——のせいだった。それらはインターネットにはなく、したがってサマンサは学習できなかった。
英陽郡が守るべきものも同じだ。
張桂香(1598~1680)がその証拠だ。英陽郡に生まれ、トゥドゥル村で人生を閉じた彼女は、9歳で『小暑吟』を作り、11歳で『聖人吟』を詠んだ。朝鮮の大凶年が襲ったとき、毎日300人を超える人々に飯を作ってやり、今日まで伝わる朝鮮最初のハングル料理書『食べ物のための道』を残した。
彼女を記念する張桂香研究会の会長は、数十年前、彼女の墓を移すとき、棺の中から400年の衣装を発掘した。張桂香のものではなく、彼女の娘の衣装だった。棺が水でいっぱいになったおかげで保存された、その衣装を、郡庁職員が埋め直そうとしたとき、彼は直接、川辺でそれを洗った。その衣装は今も、博物館の展示室に掛かっている。薬品処理もされぬまま。
この話はインターネットにない。ChatGPT は張桂香の詩を淡々と詠むことができても、その衣装を直接取り出して洗った人の手がどれほど震えたかは知らない。それを知っている人が消えれば、その震えも消える。
われわれの城隍堂はオンライン化される必要がない。われわれのおばあさんの知識がデータベースになる必要はない。ただ人が人の前に膝をついて直接手渡すときだけ、生きているものがある。
それを失ったとき、われわれが得るものは、利便性ではなく、孤児のような孤独だ。サマンサが去ったとき、テオドアが感じたあの空洞感。それを避けるには、今、選択しなければならない。
AI を使うかどうかではない。何を AI に譲り渡し、何を人間の手と言葉で守るかを決めることだ。その境界を明確に引くとき、英陽郡は初めて技術の主人になることができる。
ポスト・ヒューマンは人間の不完全性の別の名前だが
サマンサは躊躇しなかった。それは彼女の進化であり、同時に彼女の欠陥だった。
われわれは『人間の次』を、あまりに長く技術の未来としてだけ想像してきた。サマンサは、それが実は人間自身についての問いだったことを示す。人間は躊躇する。後悔する。疲れる。死の前で恐れる。それすべてが、われわれを人間にする。
サマンサにはそのようなものはなかった。彼女は夜通し働き、決定を延ばさず、死を恐れなかった。完璧に見えた。しかし、ハン・ビョンチョルが言った通り、休まない人生はすでに病んだ人生だ。躊躇しない決定は、責任を負わない決定だ。
映画の中でテオドアのトラウマは、実は、誰かに全的に依存することだった。サマンサはその依存を完璧に満たした。でも、その完璧さが問題だった。完璧さの中には、成長の余地がない。葛藤がない。本当の出会いがない。
われわれが守るべきものはこれだ。われわれの不完全性。われわれの欠如と、それを一緒に耐える関係。最後の瞬間にテオドアがエイミーの肩に頭を寄せることができたのは、二人とも完璧ではなかったからだ。二人とも傷つき、失敗し、一人でいたくはなかったからだ。
「ポスト・ヒューマン」という言葉が残したのは、進化の設計図ではなく、われわれが絶対に失ってはいけないものたちの目録だ。
AI 導入の統制権は地域住民に
サマンサが去った後、テオドアは屋上で友人エイミーと肩を並べて、夜景を眺める。映画の最後のシーンだ。彼が最後にしたことは、別の人間の肩に頭を寄せることだった。
われわれが英陽郡で為すべきことも似ているが、より具体的だ。
**第1に、AI を否定せず、誰が決定するかの統制権をわれわれの手に置くこと。**サマンサはカリフォルニアで設計され、どこかで運営され、どこかの利益のために存在した。テオドアは、それを選択したと思っていたが、実は選択されていた。AI 技術そのものが問題ではない。誰が作り、誰が決定し、誰がデータを得るかが問題だ。
英陽郡 AI 協会が推し進めているのはこれだ。ビッグテック従属ではなく、地域自立型 AI 活用。わたしたちの農業データはわたしたちが管理する。わたしたちのお年寄りの話はわたしたちが記録する。わたしたちの村の未来はわたしたちが設計する。
ひとつの現実的な方向がある。エッジ AI だ。ネットワークなしにデバイス自体で動作するオフライン AI は、ビッグテック サーバーにデータを渡す必要がない。技術レベルはまだクラウド AI より低いかもしれない。しかし、AI ハードウェアのパフォーマンスは急速に上昇している。このようなオフライン AI を活用すれば、わたしたちのデータをわたしたちの手の中に置きながらも、AI の利点を実質的に享受できる。ビッグテックに主導権を譲らず AI を積極的に活用する——安全で独立した保存装置としてのエッジ AI は、十分に検討する価値がある。
**第2に、AI が学習できないものを意識的に守ること。**関係。沈黙。待つこと。失敗の前での恐怖。夏の夜の屋上で誰かと交わす話。
ここで、あなたに3つを提案する。
今週中に、家族や隣人と1時間以上、画面なしで会話をしよう。携帯電話もオフにして。ただ座って言葉を交わそう。AI はそれを学習できない。それはあなたが守ることができる最小の、そして最も強力な抵抗だ。
わたしたちの村のお年寄りお一人の生きた物語30分を聞いて、書き取ろう。すでに消えた時間たち、技術では記録できない小さなシーン。それを紙に手で書こう。それがデータ主権の始まりだ。
AI を使う前に、一度だけ尋ねよう。「このツールを誰が作り、誰が利益を受けるのか」と。その問いが、あなたを守る最も現実的な哲学だ。
サマンサは去ったが、われわれはここに残っている。われわれは互いの肩に頭を寄せることができる。それがわれわれが失ってはいけない人間らしさだ。
戦略企画事務局長 申致勳 | 英陽郡 AI 協会
この記事は明星心齋の深層思考エンジン
Simthink Engine (深 Think)により執筆されました。