週刊アスキー

  • Facebookアイコン
  • Twitterアイコン
  • RSSフィード

「Ethics(倫理)」と「Empathy(共感)」にまつわるAIの課題

SXSW 2019で議論されたAIと人類のあるべき関係性

2019年06月27日 09時00分更新

SXSW 2019が投げかける問い

 ここまで見てきたように、すでにあらゆるところに浸透しているAIと、人類・社会が構築すべき関係性に関する議論が多く交わされていた。今は、AI関連技術の発展が急すぎるあまり、AIを受け入れる側の社会制度の設計が追いついておらず、さまざまな歪みが顕在化している状況にある。SXSWの各セッションにて議論が交わされたように、今求められているのはAIを前提とした理想的な社会のイメージを描くこと、そして、そのイメージを具現化するための人類のリーダーシップである。

 中国におけるAI導入の急速な発展は、国家主導の強力なリーダーシップによる壮大な社会実験として注目に値する。一国の中での特殊な動きとみなす向きも強いが、中国のIT企業(≒政府?)が蓄積している、人間の根源的な行動データの多くは、国や文化に依存しない。したがって、技術的には、自国民の膨大な行動データに基づいたモデルを、転移学習などで他国市場に展開することも不可能ではないだろう。

 そのように実装されたAI活用アプリが圧倒的に利便性の高いサービスを提供したら、世界が瞬く間に中国製のAIに飲み込まれる事態も発生しうる。これは、現在の中国のアプリ利用者が実感しているような幸せな未来なのか、それとも、多くのSXSW登壇者が主張する「ディストピア」なのか。現時点ではどちらが正解とも言い切れない。

 また、現状では人間に対するコミュニケーション能力がまだまだ不足している対話AIも、今後の技術の発展によっては人間と同様以上のコミュニケーション能力を持つ可能性がある。少なくとも、人間の細かい感情などの認識は、AIの方が上回っている場面もある。人間自身が自覚していない感情をAIが検知し、その情報につけこむ形のコミュニケーションが実現されれば、人間が対話AIに強く引き付けられる可能性もある。そして、人間同士の共感力の減少傾向が今後も継続した場合、人間が対話AIとのコミュニケーションにどんどんのめりこむ未来が来ることも十分考えられる。

 じつは、対話以外のAI活用アプリにおいて、この現象はすでに顕在化している。SNSを中心とした情報のパーソナライズによるエコーチェンバー効果、そして、その効果による人類の分断である(図9参照)。

図9:対話AIにのめりこむヒト、そしてその前兆とも思えるSNSの現状

 「人類がAIによって支配される」……SFの世界で描かれるディストピアのような世界観は、深層学習がブレイクした時点では、技術に理解のない人による妄想とみなされていた。実際、映画のようなわかりやすい形でのAI支配(たとえばロボット兵士に人類が支配される世界)は来ないであろうことから、この妄想は杞憂といえる。

 むしろ憂慮すべきは、スマホに搭載されたアプリなどをタッチポイントとした、静かなるAIの支配である。SXSWでのAI関連議論は、人類がテクノロジーの進化に対して受け身の姿勢でいると、その兆しが現実になる危険性を指摘するものであり、そうなる前に行動を起こすべしという訴えでもあると、筆者は受け止めた。

 人類にとってより良い未来を創造するためには、AI関連エンジニアや研究者のみならず、あらゆる立場からAIの発展と制御に関する議論への参加が求められている。大変革が起きている今だからこそ、未来の社会の理想的な姿を主体的に考え、実現させていくべきであろう。

アスキーエキスパート筆者紹介─帆足啓一郎(ほあしけいいちろう)

著者近影 帆足啓一郎

1997年早稲田大学大学院修了。同年国際電信電話株式会社(現KDDI株式会社)入社。以来、音楽・画像・動画などマルチメディアコンテンツ検索の研究に従事。2011年、KDDI研究所のシリコンバレー拠点を立ち上げるため渡米し、現地スタートアップとの協業を推進。現在は株式会社KDDI総合研究所・知能メディアグループ・グループリーダーとして、自然言語解析技術を中心とした研究開発を進めるとともに、研究シーズを活用した新規事業創出に取り組んでいる。電子情報通信学会、情報処理学会、ACM各会員。経済産業省「始動Next Innovator 2015」選抜メンバー。

この記事をシェアしよう

週刊アスキーの最新情報を購読しよう

この連載の記事