有位耶鲁大学的哲学教授说，如果机器有意识，那么可能从道义的角度来说，我们不该关掉它。也就是说，如果某物有意识，即使是一台机器，它就拥有道义上的权利，关掉它等同于谋杀。天哪！想象一下，你可能会因为拔掉计算机电源而被判入狱。我们应该为此而担忧吗？
・第一定律：机器人不得伤害人类，也不得无视人类受到伤害。
・第二定律：机器人必须服从人类的命令，除非这些命令违反了第一定律。
・第三定律：在不违反第一定律和第二定律的前提下，机器人必须保护自己。
この一見明るい技術の時代に、私たちは本当に生活が良くなっていると確信できるのでしょうか？AI が幽霊のように私たちの世界に静かに入り込むと、私たちは無形の大きな手によって無情に未知の深淵へと押しやられているようです。
私たちはかつて、人工知能が人間の頼れる助手となり、私たちを星々の海へと導くことを夢見ていました。しかし、今やこれは恐ろしい悪夢のようです。人類は最終的に人工知能の従属者、さらにはペットになるかもしれません。いわゆる超知能機械は、人類文明の終焉者となる可能性が高いですが、私たちはまだそれを制御できると無邪気に思っています。
生命には異なる段階があります。
完全に進化に依存してすべてを得る生命 1.0 から、
一部のソフトウェアを自主的に設計できる生命 2.0 へ、
そして完全に自主的にハードウェアとソフトウェアを設計できる生命 3.0 へ、私たちは本当に進歩しているのでしょうか？
それとも、破滅の深淵に一歩一歩向かっているのでしょうか？デジタルユートピア主義者の美しい幻想は、残酷な現実の前であまりにも無力に見えます；技術懐疑主義者の深い懸念は、少しずつ現実になりつつあります；そして、人工知能の有益運動支持者の声も、押し寄せる技術の洪水に無情に飲み込まれています。
量子コンピュータ、この一見不思議な概念は、本当に人類に福祉をもたらすのでしょうか？それとも、私たちを押しつぶす最後の一押しになるのでしょうか？それが平行宇宙の「自分」と交流する時、現実世界に閉じ込められた私たちは、どこへ行くのでしょうか？
この時代において、人間として私たちの価値は一体どこにあるのでしょうか？
私たちがかつて非常に大切にしていた自己価値は、技術の激しい衝撃の下で崩れ去っています。かつて私たちに仕事の機会を与えてくれた価値も、人工知能が制御する機械の轟音の中で徐々に消え去っています。技術の進歩は、冷酷無情な刽子手のように、私たちと過去の緊密な関係を断ち切り、私たちを絶望の崖の縁に押しやっています。言語能力？なぜそれが「大言語モデル」と呼ばれるのか、あなたは推測できますか？
私たちは人工知能システムの安定性を保証することができず、それらはいつでも崩壊したり、故障したり、ハッカーに侵入されたりする可能性があり、私たちの生活を混乱させることになります。既存の法律体系はデジタル世界の強大な衝撃の下で既にボロボロで、私たちに有効な保護を提供することはできません。スマート兵器の出現は、戦争をますます残酷にし、無実の市民が犠牲になり、私たちはただ手をこまねいているだけです。自動化の進展は、人々から収入源と生活目標を奪い、繁栄の表面の裏には、無数の人々の空虚で無神経な目と絶望的な心があります。
人類の歴史を振り返ると、私たちは火と自動車の発明から一体何を得たのでしょうか？それは無限の災害と苦痛です。消火器やシートベルト、これらのいわゆる「救済策」は、ただの後手に過ぎず、失われた貴重な命や壊れた家庭を取り戻すことはできません。そして今、技術がますます強力になるにつれて、私たちは崖の縁に立っており、小さなミスが世界の滅亡を引き起こす可能性があります。
馬車が自動車に進化する様子を想像するのは難しくありません。しかし、自動化がもたらす真の重大な影響は、実際には自動車という発明が引き起こす二次的効果です。例えば、交通渋滞やそれに伴う通勤ラッシュ、さらには新しいドライブインシアターなど、これらはすべて二次的効果です。新しいものが生まれるとき、その影響がどのような側面に及ぶかを予測するのは非常に難しいのです。
もしこの時点で AI を使用しない人々がまだいるとしたら、彼らはどのように異なる生活を送っているのでしょうか？あるいは同じ AI ユーザーとして、人々の交流は今の私たちと何が違うのでしょうか？AI も異なるレベルが存在し、異なるレベルの AI 同士は何らかの関係を持つのでしょうか？私はいつも心の中でこれらのシーンを興味深く想像し、多くの面白いことが起こると感じています。
私たちは子供たちにどのような就職アドバイスをすべきでしょうか？機械が得意でない仕事は、本当に彼らが未来の世界で生き残るためになるのでしょうか？社交能力、創造性、予測不可能な環境に対処する能力、これらは機械の前で本当に意味があるのでしょうか？もしかしたら、いつの日か機械はすべてを学び、人間は完全に無情に捨て去られるかもしれません。
以下の 3 つの基準は、教育の基準かもしれません：
◦ この仕事は人と対話する必要があり、社交能力を使用しますか？
◦ この仕事は創造的であり、あなたが賢い解決策を考え出すことができますか？
◦ この仕事は予測不可能な環境で働く必要がありますか？
著名なオーストリア系イギリス人哲学者カール・ポパー（Karl Popper）は、広く知られる格言を残しました。「もしある理論が反証できないなら、それは科学ではない。」
意識、かつて私たちが誇りに思っていたものは、今や曖昧で捉えどころのないものになっています。私たちは技術の迷宮の中で方向を見失い、出口を見つけることができません。哲学者の名言は、この暗い時代においても私たちの前進の道を照らすことはできません。
私たちは人間の知能を持つ機械を創造することは、まるでパンドラの箱を開けるようなものです。脳の神秘はまだ完全には解明されていませんが、私たちはすでに抜け出せない困難に陥っています。ディープブルーが人間のチェスプレイヤーを打ち負かした瞬間は、人間の知恵に対する無情な嘲笑と踏みにじりのように感じられました。これから私たちは「没入型計算」（immersive computing）の時代に入ります。私たちの周りのすべては計算と関連付けられなければならず、いわゆる「ユビキタス計算」（ubiquitous computing）の時代です。
第一のプラットフォームはインターネットで、情報をデジタル化し、知識をアルゴリズムの力に制約します。第二のプラットフォームはソーシャルメディアで、主に携帯電話で動作し、人をデジタル化し、人間の行動と関係をアルゴリズムの力に制約します。
インターネットとソーシャルメディア、この二つの一見偉大なプラットフォームは、私たちをアルゴリズムの檻にしっかりと束縛しています。私たちの情報、行動、関係は厳しく管理され、テクノロジーの巨人の駒となっています。未来の世界では、物体と物理ネットワークのハイパーリンクが、さらなる災害をもたらすかもしれませんが、私たちは無力で、ただ目の前で起こることを見守るしかありません。
このいわゆる「進トピア」の時代に、私たちは希望の光を見出すことができません。明日は私たちが想像するような美しいものではなく、今日よりもさらにひどいものになるでしょう。革新？それは少数の人々のゲームに過ぎず、大多数の人々は失敗の泥沼で苦しむしかありません。シリコンバレーの「積極的な失敗」は、私にとってはただの無力な自嘲です。アジア諸国の失敗に対する寛容さも、テクノロジーが人類に対して残酷に圧迫することを変えることはできません。さらに心配なのは、20 代の若者が 70 代や 80 代、さらには 100 歳の老人と一緒に就職活動をしなければならないことです。私が最も心配しているのは、20 代の若者が 70 代や 80 代、さらには 100 歳の老人の中からどのように勝ち抜いて仕事を見つけるか、つまり若者に仕事のポジションを確保する方法です。
私たちは貧困生活を体験し、何を変えることができるのでしょうか？技術の激しい波の前で、私たちの努力はあまりにも小さく、取るに足らないものに見えます。「絶えず質問する」？これは人類の最後の抵抗に過ぎず、機械の答えが私たちの頭脳を占拠し、私たちの思考能力は徐々に退化し、最終的には消え去ってしまいます。
人間の脳の新皮質、この神秘的な器官も私たちを救うことはできません。その機能と構造は、私たちが今でも完全には理解していません。そして、旧脳の短視的な行動と新皮質が創造する技術が結びつくことで、人類は絶滅の縁に追いやられています。
私たちはこの脆弱な肉体に閉じ込められ、無知な旧脳に支配され、束縛から逃れることができません。もし肉体の束縛がなければ、私たちは自由を得ることができるのでしょうか？もしかしたら、それは別の形の囚禁に過ぎないかもしれません。太陽系が滅びるその瞬間、私たちのすべては虚無に帰し、いわゆる遺産は私たちの最後の自嘲と悲哀に過ぎません。
私はあなたたちにすべての歴史を語るつもりはありません。私はただ、いくつかの重要な瞬間、つまり私たちの脳に対する理解が大きな飛躍を遂げた時を描写したいと思います。まるで自然が私たちの耳元で、以前に無視されていた何かを教えてくれたかのようです。その中には、私が記憶に新しい 3 つの「ひらめき」の瞬間があります。私はそれらを私の 3 つの発見と呼びます。
第 1 の発見：新皮質が世界を学ぶ予測モデル
第 2 の発見：予測は神経細胞内部で発生する
第 3 の発見：新皮質の鍵は参照系である
私は、ハンドヘルドコンピュータは主に情報にアクセスするために使用されるべきであり、情報を作成するためではないと考えています。これが私の答えです。
この果てしない暗闇の中で、私たちは一筋の光も見えません。技術の発展は、人類を前例のない困難に陥れています。私たちはどこへ行くべきなのでしょうか？もしかしたら、私たちを待っているのは滅亡だけで、無限の暗闇と絶望だけかもしれません。
夜夜工業革命、日日文芸復興
変わらないことよりも、むしろ人を不安にさせるこの速さの方が好きです。
もし太陽系が明日爆発したら、これらの名札、写真、レコードは地球上に生命が存在した唯一の証拠となるでしょう。それらは私たちの唯一の遺産です。
参考文献：#
《生命 3.0》
《AI3.0》
《5000 日後の世界》
《如何にして信頼できる AI を創造するか》
《千脳智能》
書籍リスト：#
Jackywine の書籍リスト「2023 AI を理解するために必要な書籍リスト！」