WEBVTT

00:00.976 --> 00:09.000
AI企業OpenAIのトップであるサム・アルトマンは、ある会話の中で、ChatGPTの後継機に関する自身の計画を語った。

00:09.000 --> 00:15.679
それは数か月以内に使用可能になる予定だ。アルトマンは次のように述べた：

00:15.679 --> 00:37.279
「私は、ChatGPTの後継機が常にあなたのコンピューター画面を監視し、あなたが参加するあらゆる会議に同行し、
すべての通話を録音し、そうしてあなたが見るすべてのものから、あなたの人生全体の完璧なコンテキストを持つ世界に近づいていると思う。」

00:37.279 --> 00:42.840
まもなくAIは、問い合わせに反応するだけでなく、自発的に行動するようになる。

00:42.840 --> 00:51.161
それはアイデアを提案し、潜在的な問題を認識し、日常生活を支援する。なんと素晴らしい新世界だろうか！

00:51.161 --> 00:57.329
それに比べれば、
1984年――「ビッグ・ブラザーがあなたを見ている」――のような古典的なディストピア［ディストピア＝架空の暗い未来像］は、

00:57.329 --> 01:02.178
無害な人形劇のように見える。なぜなら、オーウェルの監視者たちはまだ壁の後ろに座っていたからだ。

01:02.178 --> 01:08.526
アルトマンの監視者たちは自分のスマートフォンやPCの中に座っており、まもなく自分の脳の中にも座るだろう。

01:08.526 --> 01:12.650
彼らは常に付き添う者となり、いわゆる友となる。

01:12.650 --> 01:15.343
便利さという餌は魅力的だ。

01:15.343 --> 01:23.476
面倒な予定をいくつか外注したり、完璧な存在に仕事を支援してもらいたいと思わない人がいるだろうか？

01:23.476 --> 01:30.363
しかし、人々が新しいAI支援に依存するようになるとすぐに、AIは彼らを叱り始めるだろう。

01:30.363 --> 01:37.520
「支援」と「おせっかい」の間の狭い境界線は、もはやユーザーではなく、アルゴリズムによって定義されるようになる。

01:37.520 --> 01:41.204
こうして自発的な支援は、おせっかいな介入となる。

01:41.204 --> 01:47.020
これが具体的にどのようなものかを示すいくつかの例を挙げる：

01:47.020 --> 01:50.695
1. 政府の政策について批判的なコメントを書こうとする？

01:50.695 --> 01:55.437
すべてのキー入力を監視しているAIが、事前にそのテキストを「修正」する。

01:55.437 --> 02:04.040
彼女はより無害な表現を提案するか、その投稿が「不正確」または「分極化を招く」と分類されるため、そもそも公開しない。

02:04.040 --> 02:11.060
すでに今、GoogleのAIは独自の定義に基づいて無害なレビューをブロックしている。

02:11.060 --> 02:15.078
2. ネット上で議論が分かれるテーマについて情報を探す？

02:15.078 --> 02:22.414
AIは検索結果をフィルタリングし、自らが「信頼できる」——つまり体制に沿った——と見なす情報源だけを表示する。

02:22.414 --> 02:25.585
すでに今、ソーシャルメディアではシャドウバンが行われている。

02:25.585 --> 02:34.269
コンテンツはブロックされていないが、検索に表示されなくなり、したがって購読者も利用できなくなる。

02:35.769 --> 02:42.683
3. もはや読むことと書くことは必要ない。なぜならAIが高度なテキストを要約したり、記事や演説全体を書いたりするからだ。

02:42.683 --> 02:49.870
著述家のトム＝オリバー・レーゲナウアーは最近、ある提言書にこう書いた：

02:49.870 --> 02:56.020
「読むこと、考えること、書くことを外注する者は、それを——しかも非常に速く——忘れてしまう。

02:56.020 --> 03:01.599
脳は筋肉に例えられる。訓練しなければ、衰える……

03:01.599 --> 03:19.616
2007年以降のスマートフォンの導入がどれほど致命的な結果をもたらしたかを考えると、
AIがはるかに短い時間で我々人類の認知能力にどのような影響を与えるかを外挿するのに、さほどの想像力は要らない。

03:19.616 --> 03:26.343
AIは——スマートフォンと同様に——何よりもまず軍事技術であり、退化の道具である。

03:26.343 --> 03:32.294
ごく少数の者しか責任を持って生産的に扱えない道具である。」}```json

03:32.294 --> 03:43.840
方向感覚、意志、思考を欠いた「スモンビー」は、すでに都市景観を特徴づけているが、警告的な例としてはまだ十分ではないようだ。」

03:43.840 --> 03:52.821
4. AIはごく短時間で個人的な政治的立場を認識し、私的なメッセージを読み、人間関係や連絡網を把握する。

03:52.821 --> 03:58.580
それはこの知識を、人間の成長を促すために使うのではなく、人間を「最適化」するために使う。

03:58.580 --> 04:02.526
これは端的に言えば、要求される規範への適応を意味する。

04:02.526 --> 04:10.245
ナッジング、すなわち微妙な意見操作は、コロナ禍の数年間にすでに大規模なテストで成功を収めていた。

04:10.245 --> 04:15.040
では、私たち利用者はChatGPTやその類にどれほどの権力を与えたいのか？

04:15.040 --> 04:19.198
トム＝オリヴァー・レーゲナウアーはこれについて明確な声明を出す：

04:19.198 --> 04:27.392
「私は、私を常に監視し、すでに私を殺す可能性を秘めているシステムを訓練することを拒否する。

04:27.392 --> 04:40.929
なぜなら、まさにそれをPalantir、OpenAIのChatGPT、AnthropicのClaude、
SpaceXAIのGrokは今日すでにガザ、ウクライナ、イラン、その他の戦争地域で行っており、

04:40.929 --> 04:52.424
そこではまさにこれらのシステムによって自律型兵器システムが制御されているからだ——E
UROPOLによればまもなく私たちの都市をパトロールするあのミニドローンたちのように。

04:52.424 --> 05:00.370
AIシステムを使う者は、「SkyNet」を訓練している。それは真の「ターミネーター」を制御することになる中央データベースだ。

05:00.370 --> 05:06.784
そしてそれはBoston Dynamics、Unitree、Teslaのおかげで、かなり早く私たちの扉の前に立つことになる。」