リンク
AIを「人間の道具」ではなく“自律的に判断し物語を生成する新しい知性”として捉える点が、本書の最大の特徴です。
ハラリ氏は、AIが意思決定を代行し、感情操作・監視・政治介入を可能にすることで、民主主義の基盤である共通現実が崩壊する危険を強調します。これは、技術進歩を楽観視するカーツワイル 氏 の「指数関数的成長による希望」や、AIを“共同創造パートナー”とみなす立場とは対照的です。
ハラリ 氏 は、AIが人間の弱点を突き“神話”を生成しうる点にこそ最大の脅威を見いだし、情報ネットワークの歴史を踏まえて、AIは原子爆弾とも印刷機とも異なる初の“非有機的エージェント”だと指摘します。
AI時代における自由・真実・秩序の再構築を迫る警告書です。
私が興味を持った著者の見解の一部を以下にご紹介します。
- フェイスブックのユーザーエンゲージメント（ユーザーがそこで費やす時間や動作）が増すと、投資家は好印象を抱き株価が上がる。フェイスブックの経営者たちは、自社のアルゴリズムに 「ユーザーエンゲージメントを増すこと」を 最優先目標として与えた。アルゴリズムは膨大な数のユーザーを対象に実験を行った結果、憤慨や憎悪を煽るコンテンツを拡散させるという致命的な決定を下した。
- プラットフォームが虚偽情報と 憤慨や憎悪を煽るコンテンツに圧倒されると、重役陣は、より多くの人がより自由に意見を表明できれば、最終的には真実が勝つことを願った。ところが、そうはならなかった。情報の完全に自由な戦いでは、真実が敗れる傾向にある。状況を真実に有利にするためには、ネットワークは真実を語ることに報いる強力な自己修正メカニズムを開発して維持しなければならない。
- 私が「ユーザーエンゲージメント」の大失敗にこれほど注意を向けてきたのは、それがコンピューターを悩ませているはるかに大きい問題、すなわち「アラインメント（一致 ） 問題 」を体現しているからだ。コンピューターは具体的な目標を与えられると、自らの力と創意工夫でその目標を達成する。 コンピューターは人間とは機能の仕方がまったく違うので、 コンピューターを支配している人間が予期しなかったような方法を使う可能性が高い。それが、危険な不測の結果につながり得る。
- 新しいコンピューターネットワークは、必ずしも悪でも善でもない。確実に言えるのは、そのネットワークが異質で可謬のものになるということだけだ。したがって私たちは、強欲や憎しみと言った人間のお馴染みの弱点だけではなく、根本的に異質の誤りを抑制できる制度や機関を構築する必要がある。それは政治的な課題だ。
- 2022年の調査では、ツイッターのユーザーの５％がおそらくボットだが、そのボットが「ツイッターに投稿されるコンテンツの20.8～29.2％」を生成していることがわかった。誰をアメリカ大統領に選ぶかといった、きわめて重要な問題について人間が討論しようとするとき、多くの意見がコンピューターによって生み出されたものだったら、どうなるのか？
- 各国政府は、かつて偽造貨幣を不法としたときと同じように断固として、偽造人間も不法とすべきであり、人間以外の行為主体が人間になりすまそうとする試みも禁じるべきだ。ボットを締め出すのは誰の権利も侵害しない。
- コンピューターのおかげで情報と権力を中央の拠点に集中しやすくなった人類は、データを制御することで彼方の植民地を支配する「データ植民地時代」に突入し、そこではデジタル帝国と植民地の不均衡が拡大する可能性がある。そうならないためには、強力な自己修正メカニズムを持つ制度や機関を構築しなくてはならない。
『サピエンス全史』を超える衝撃――
知の巨人、6年ぶりの書き下ろし超大作
「ネクサス」（NEXUS）とは？
――「つながり」「結びつき」「絆」「中心」「中枢」などの意
人間ならざる知能を前に
人間の「絆」（ネットワーク）を守れるか？
AIの真の新しさとは何か？
それは、自ら決定を下したり、新しい考えを生み出したりすることができるようになった史上初のテクノロジーだという点にある。
私たちは、ついに「人間のものとは異質の知能」（エイリアン・インテリジェンス）と対峙することになったのだ。
＊
憎悪の拡散、常時オンの監視、ブラックボックスの中で下される決定……。
AIが社会の分断を加速させ、ついには全人類から力を奪い、人間と人間以外という究極の分断を生み出すのを防ぐことはできるのか？
＊
今こそ、過去の歴史に学ぶときだ――
古代ローマの政争や、近世の魔女狩り、ナポレオンの生涯などから得られる教訓を通じて、知の巨人が「AI革命」の射程を明らかにする。
情報により発展を遂げた人類は、情報により没落する宿命なのか。本書のAI論は、混迷する世界で民主主義を守るための羅針盤になるだろう。
――斎藤幸平氏（経済思想家・『人新世の「資本論」』著者）
その深い洞察は、私たちが著書『PLURALITY』で提唱する多元的な共創の原理とも響き合い、進化するデジタル時代で人々を導く羅針盤となる。
――オードリー・タン氏（台湾・初代デジタル発展相）
知の巨人、6年ぶりの書き下ろし超大作
「ネクサス」（NEXUS）とは？
――「つながり」「結びつき」「絆」「中心」「中枢」などの意
人間ならざる知能を前に
人間の「絆」（ネットワーク）を守れるか？
AIの真の新しさとは何か？
それは、自ら決定を下したり、新しい考えを生み出したりすることができるようになった史上初のテクノロジーだという点にある。
私たちは、ついに「人間のものとは異質の知能」（エイリアン・インテリジェンス）と対峙することになったのだ。
＊
憎悪の拡散、常時オンの監視、ブラックボックスの中で下される決定……。
AIが社会の分断を加速させ、ついには全人類から力を奪い、人間と人間以外という究極の分断を生み出すのを防ぐことはできるのか？
＊
今こそ、過去の歴史に学ぶときだ――
古代ローマの政争や、近世の魔女狩り、ナポレオンの生涯などから得られる教訓を通じて、知の巨人が「AI革命」の射程を明らかにする。
情報により発展を遂げた人類は、情報により没落する宿命なのか。本書のAI論は、混迷する世界で民主主義を守るための羅針盤になるだろう。
――斎藤幸平氏（経済思想家・『人新世の「資本論」』著者）
その深い洞察は、私たちが著書『PLURALITY』で提唱する多元的な共創の原理とも響き合い、進化するデジタル時代で人々を導く羅針盤となる。
――オードリー・タン氏（台湾・初代デジタル発展相）
(amazonより抜粋して引用)
0 件のコメント:
コメントを投稿