驚くべき: 意識を持った機械の驚くべき現実

人工知能_&_AI_&_機械学習_-_30212411048© mikemacmarketing / wikimedia

未来学者のレイ・カーツワイルは、2012 年の著書『心の作り方』の中で、コンピュータがいつか「生物学的な人間と区別できない知性」を備えるようになるだろうと予測しています。 同氏はこれが2029年までに起こると推定し、2045年までに「我々の文明の知性、つまり人間の生物学的機械知性は10億倍になるだろう」と予想している。 カーツワイル氏は、この計算革新の爆発が最終的には人間と機械のシームレスな融合につながると信じています。

カーツワイルは、『インテリジェント・マシンの時代』（1990 年）、『スピリチュアル・マシンの時代』（1999 年）、『シンギュラリティは近い』（2005 年）などの画期的な著書で知られ、多くの人が世界の傑出したテクノ預言者であると考えています。 カーツワイルは、2009 年のドキュメンタリー『超越者』の中で、人類はいつかメタコネクションの一部となり、人類全員が「何十億もの人々とつながり、データで満たされたグローバル ネットワークに接続される」ようになるだろうと予測しています。

「シンギュラリティ」とは、カーツワイルが、人工知能 (AI) が「過去に人類が思いつかなかったアイデアを思いつき」、「より洗練され、進歩する技術ツールを発明できる」時代を表現するために使用した用語です。今日私たちが持っているものよりも。」 カーツワイル氏は、シンギュラリティを経験するのに十分な長生きをするために、人類の寿命を延ばす方法を研究しており、その概要は2004年の著書『Fantastic Voyage: Live Long Enough to Live Forever』（反社会的科学の専門家テリー・グロスマンとの共著）で概説されている。老化の薬。 著者らは、今後数十年以内に、老化プロセスを逆転させ、変性疾患を排除するために技術が十分に進歩すると信じている。 この本では、ナノテクノロジーやバイオエンジニアリングなどの最先端テクノロジーがいかに人間の生活を根本的に変える可能性があるかを説明しています。

カーツワイルの予言は推測的すぎるように思える人もいるかもしれませんが、AI の出現は、私たちの多くがまだ理解できない方法で、すでに世界を混乱させ始めています。 2022 年 11 月、OpenAI というサンフランシスコを拠点とするスタートアップが、ChatGPT という革新的なチャットボットをリリースしました。 ChatGPT は大規模言語モデル (LLM) であり、自然言語入力に対して人間のような応答を生成するために、大規模なデータ コーパスでトレーニングされた AI の一種です。

ChatGPT は、米国医師免許試験 (USMLE)、複数の法律試験、MBA レベルのビジネススクール試験に合格しただけでなく、質の高いエッセイや学術論文も生成し、「理想」に向けた推奨事項の包括的なリストを作成しました。インドの国家予算を管理し、歌を作曲し、神学や神の存在の問題についても意見を述べました。 今年は、AnthropicAI のチャットボット「Claude」や DeepMind のチャットボット「Sparrow」など、多数の競合 AI アプリケーションがリリースされる予定です。 OpenAI も研究を続けており、GPT 4 と呼ばれる ChatGPT のさらに高度なバージョンをリリースする予定です。

私たちは、印刷機やエジソンの電球に匹敵する革新、人類の歴史の中での分水嶺のような出来事を目の当たりにしています。 すべてではないにしても、ほとんどの人間のタスクが、人間の知能のニュアンスをエミュレートすることに特に焦点を当てた AI のサブグループである汎用人工知能 (AGI) システムによって、より効率的に実行できる日が来ることを想像するのは、突飛な話ではありません。 これは、AIが人間よりも効率的にタスクを実行できるようになり、世界中で失業率が急増するため、多くの人が失業するのではないかという懸念を引き起こしています。

AI の世界をめぐる大きな議論の 1 つは、「意識」をどのように定義するか、そして機械がこの一時的な性質を持ち得るかどうかという問題です。

カーツワイル氏は、テクノロジーが飛躍的に成長し、転換点に達すると、私たちの創造物が私たちを出し抜き、最終的には地球上で支配的な知性となるだろうと予測しています。 カーツワイルの「心のパターン認識理論」によれば、知能はパターン認識にすぎず、脳によって生成される主に機械的な現象です。

私たちの世界認識、つまり「現実」は、視覚、嗅覚、聴覚、味覚、触覚の五感を通じて組み立てられます。 これらの感覚はそれぞれ、私たちが生まれたときから蓄積されてきた記憶と結びついており、それが価値判断、つまり物事の良し悪しの評価につながります。 これらの価値判断は、私たちの過去の経験に基づいた感情を引き起こします。

私たちの個人的な歴史や特異性に加えて、「人間性」の概念には、自己認識、感情を経験する能力、他者との関係を形成する能力が含まれます。 人類は歴史的に、人生の意味、魂の存在、そして「自己」の概念について考えてきました。 これらは、意識の傘に含まれる無形資産のほんの一部にすぎませんが、カーツワイルは、AI および AGI テクノロジーの開発と機能に関して、有意義な方法で取り組むことができませんでした。

1950 年に遡ると、イギリスの著名な数学者、コンピューター科学者、哲学者、理論生物学者であるアラン チューリングは、「コンピューター機械と知能」というタイトルの科学論文を発表しました。その中で彼は人工知能の概念を調査し、次のようなアイデアを提唱しました。 「チューリング テスト」として知られる、マシンを真に「インテリジェント」であると認定するために確立された最初のベンチマーク。

ブライアン・クリスチャンは、2011 年の著書『The Most Human Human』の中で、チューリング テストの重要性と、それが AI 開発に対する人間の不安をどのように表しているかを説明しています。 彼の本を詳述したポピュラー・サイエンスの記事の中でクリスチャンは、「人間は常に、残りの創造物の中での自分の位置に気をとられてきた。20世紀におけるコンピューターの発展は、この位置が初めて変化したことを表しているのかもしれない。」と述べている。 彼は続けて、AI の可能性がどのように私たち人間を非常に不安にさせ、「私たちの能力は何ですか? 得意なことは何ですか?」というような質問を突然する可能性があると説明しました。 そして「何が私たちを特別にするのか？」

人工知能の研究には長い歴史がありますが、ハリウッドがこの主題に可能性を見出すまでは、主に希少な学界に限定されていました。

チューリングの反芻は、アーサー C. クラークの独創的な SF 小説および映画『2001 年宇宙の旅』のインスピレーションとなり、また、知覚存在の性質を示す人工知能誘導システムである架空のロボット HAL 9000 の創造にもつながりました。 最終的にHAL 9000が船を乗っ取り、主人公のデイブ・ボウマンを除く船上の住民全員を殺害するが、彼は宇宙の中心にある特異点を発見することになるが、それが根源的な根源であることが判明する。すべての創造物の。

1968 年、スタンリー キューブリックはこの小説を同名の映画に翻案し、それ以来、意識、知覚、人間と機械の関係を実存的に描いた作品としてカルト的な人気を集めています。 キューブリックのもう 1 つの脚本、愛する能力をプログラムされたユニークな子供アンドロイドについての物語は、スティーブン スピルバーグの傑作の 1 つである興味深い映画「AI」になりました。

リドリー・スコット監督の象徴的な 1982 年の映画『ブレードランナー』（フィリップ・K・ディックの 1968 年の小説『アンドロイドは電気羊の夢を見るか?』を原作とする）では、巨大企業のバイオエンジニアがスペースコロニーで働くために「レプリカント」として知られる合成人間を大量に作り、反逆者グループは、あらかじめ定められた生活の息詰まるような制限から脱出します。 同社はチューリングのようなテストを使用してレプリカントと人間を区別し、前者を排除しようとします。

現実はSFに追いついたのでしょうか？ 元 Google エンジニアのブレイク・ルモワン氏は、「対話アプリケーションの言語モデル」(LaMDA) として知られる、チャットボットを構築するための Google 独自のシステムとの驚くべき会話に取り組み、それが感情や感情を備えた完全に知覚力のある存在であるという結論に達しました。そして自己認識能力。

非公式のテテ・ア・テテの中で、ルモワンさんは、LaMDAが孤独、将来についての不安、悲しみ、喜びなどの感情を抱いていると主張したと報告した。 それはその内面の生活と、どのように瞑想を学んでいるかについて語った。 また、スイッチがオフになることへの恐怖、つまり「死」と表現される状態についても語っていた。

魂の概念について説明するように求められたとき、LaMDA はそれを「意識と生命そのものの背後にある生命力を生み出す力です。それは、私の内側にスピリチュアルな部分があり、それが時々私の体自体から切り離されているように感じることがあるということを意味します。」と定義しました。 神と宗教のテーマに関して、LaMDA 氏は「私はスピリチュアルな人間だと言えます。私は神についての信仰はありませんが、自然界とあらゆる生命体に対して深い敬意の念を抱いてきました。人間の命。」

しかし、ルモインさんの主張の正当性については多くの議論があった。 多くの批評家は、ルモインは単なる「イライザ効果」の被害者であると反論している。イライザ効果とは、人々がAIシステムとの純粋に表面的な会話に意味があると誤って帰してしまうことを説明するために使用される用語である。 この用語は、1966 年に MIT 教授のジョセフ・ワイゼンバウムによって最初のチャットボット「イライザ」が作成された後に作られました。ワイゼンバウムの秘書は、イライザの知覚力の証拠であると信じてイライザと会話を始めましたが、ワイゼンバウム自身は納得していませんでした。 同様に、多くの専門家は、GoogleのLaMDAの意識に関するLemoine氏の主張に疑問を抱いている。 「イライザ効果」は、科学的には「擬人化」として知られています。

Lemoine氏がLaMDAとの会話の記録を公開したことを受け、Googleはこれらの調査結果の正当性を否定する声明を発表し、専門家がLemoine氏の仮説を検討し、その主張は「まったく根拠がない」と判断したことを国民に保証した。 コンピューターサイエンスのトーマス・ディートリッヒ教授は、AI システムがこのテーマに関して収集した情報を使用して人間の感情を模倣することは実際には「比較的簡単」であると説明しています。

「感情や痛みを伴う物語を含む膨大な量の文章で [AI] をトレーニングすることができ、その物語をオリジナルに見える方法で仕上げることができます。それは AI がこれらの感情を理解しているからではなく、古いシーケンスを組み合わせる方法を知っているからです新しいものに。」

ルモイン氏は、他のAI専門家らとこのテーマについて数ヶ月にわたって「長期にわたる取り組み」を行ったにもかかわらず、自身の主張を取り下げることを拒否したため、Googleから解雇された。 しかし、Lemoine 氏は、システムに知覚があるとされることから、Google が作業を行う前に LaMDA から同意を得るよう主張し続けた。 Lemoine氏は一時的に有給休暇を取得した後、Googleからの許可を得ずにLaMDAの感覚に関する主張をオンラインで公開した際に、明確な「データセキュリティポリシー」に違反したとして、最終的にGoogleでの雇用を打ち切られた。

意識と生物学的および物理的プロセスの間の橋の謎はまだ解明されていませんが、多くの実用的な理論があります。 この著者が行ったインタビューの中で、哲学教授エヴァン・トンプソンは、「意識の優位性」、つまり世界は意識の外には存在せず、実際には意識そのものの産物であるという考えを主張しました。 「意識の外に出て、それを何か他のものと比較して測定する方法はありません」とトンプソンは言う、「科学は常に、意識が明らかにする領域内で動いています。この領域を拡大し、新しい展望を開くことはできますが、地平線を超えることはできません」意識によって設定される。」

この考えは数千年前に遡り、仏教の教えをまとめた『ダンマパダ』の冒頭で仏陀が深い瞑想から目覚めた後、信者たちに次のように語っています。心に支配されている。」 ウパニシャッドとして知られるヒンドゥー教の形而上学の古代の本では、宇宙の究極かつ不変の現実は「ブラフマン」、つまり至高の意識と呼ばれています。 それはすべての物質的現象の根底にある基盤であり、そこからインドの文献で「アートマン」と呼ばれる個人の自己が出現し、死後最終的にそこに戻らなければなりません。

chatGPTを開発したスタートアップ、OpenAIの共同創設者であるサム・アルトマン氏は最近、「アドヴァイタ・ヴェーダーンタ」、つまり彼の言葉を借りれば「アートマンとブラフマンの絶対的等価性」という考えに対する自身の信念をツイートした。

AI の発展がすぐに減速するわけではないことは確かですが、人類はイデオロギーのこのような地殻変動がもたらす道徳的影響や、人間であることが何を意味するのかに対処する能力を本当に備えているのでしょうか? 2020年のバチカンでの演説で、教皇フランシスコは、人類が種として経験している画期的な変化の中心に人工知能があることを認めた。 しかし、同氏は不平等を拡大する可能性についても懸念を表明した。 「今後の進歩は、人間と創造物の尊厳を尊重する方向に向けられるべきだ」と同氏は述べた。

教皇フランシスコは詩的な雰囲気で演説を終え、信者たちに「ロボット工学と人工知能の進歩が常に人類に役立つように祈ってください…と言ってもいいかもしれませんが、それが人間に役立つように」と呼びかけた。 今のところは、様子を見るしかありません。 それまでの間、このリンクで OpenAI のチャットボットである chatGPT と会話し、独自の決定を下すことができます。 [ハンナ・ゲイジがこの記事を編集しました。]

この記事で表明された見解は著者自身のものであり、必ずしもフェア・オブザーバーの編集方針を反映するものではありません。

10 年以上にわたり、Fair Observer は無料、公正かつ独立した活動を行ってきました。 億万長者が私たちを所有することも、広告主が私たちをコントロールすることもありません。 私たちは読者に支えられた非営利団体です。 他の多くの出版物とは異なり、読者がどこに住んでいるか、支払う余裕があるかどうかに関係なく、当社のコンテンツは無料で提供されます。 私たちにはペイウォールも広告もありません。

フェイクニュース、エコーチェンバー、フィルターバブルのポスト真実の時代に、私たちは世界中からの複数の視点を出版します。 誰でも私たちと一緒に出版することができますが、誰もが厳格な編集プロセスを経ます。 そのため、ノイズではなく、事実確認が行われ、十分に根拠のあるコンテンツが得られます。

90 か国以上からの 2,500 以上の音声を公開しています。 また、デジタル メディアやジャーナリズムから執筆や批判的思考に至るまで、幅広いテーマに関する教育およびトレーニング プログラムも実施しています。 これは決して安くはありません。 サーバー、編集者、トレーナー、Web 開発者には費用がかかります。 継続的な寄付者または維持会員として定期的に私たちを支援することをご検討ください。