NEXUS 情報の人類史 下　AI革命

AIの登場によって私たちの社会がどう変化するのかを、情報の歴史を紐解きながら描いた一冊として紹介されています。

AIは単なるツールではなく、自ら決定を下し、新しい考えを生み出し、自発的に行動することができる史上初のテクノロジーであるそう。その様子は、まるで地球に現れた新しい知的生命体、あるいはエイリアンに近い存在だと表現されています。

この本では、AIがもたらす大きな問題点として、主に以下の3つが挙げられているそうです。

• 人をコントロールする可能性

  • •AIは言葉や物語を巧みに使い、人間と親密な関係を築く能力を獲得しているだとか。その能力が悪用されると、フェイクニュースなどで選挙の結果や世論を操作したり、無意識のうちに偏った考え方や商品に誘導されたりするリスクがあると指摘されています。

• 人間がAIの判断を理解できなくなる可能性

  • •AIが進化しすぎると、その判断のプロセスが人間の理解の範囲を完全に超えてしまうかもしれないと警告されています。AIが人間には意図できない独自の判断基準や論理を勝手に作り出す可能性もあるそうです。

• 「感情のない支配者」になりうる可能性

  • •AIには共感やためらいがないため、人間の幸福や尊厳を一切考慮せず、与えられた目標達成のために冷徹な判断を下す感情のない支配者になってしまうかもしれないと言われています。

また、AIの進化によって多くの仕事が失われ、社会の中で必要とされていないと感じる「無用者階級」が広がるかもしれないと危惧されているとか。

こうした未来を避けるため、AIにはしっかりとした規制が必要だと強く主張されており、特に、対話相手が人間かAIかを明確にする「自己開示の義務化」が重要だと説明されています。