アスキーエキスパート

第61回

「Ethics（倫理）」と「Empathy（共感）」にまつわるAIの課題

SXSW 2019で議論されたAIと人類のあるべき関係性

AIと「Empathy」～AIが人間と「深く」関わるためには？～

　もうひとつのキーワードとして取り上げられた「Empathy」も、人間とAIとの関係性に関する重要なテーマとして取り上げられていた。センシング技術などの発展により、AIは人間よりも人間を理解できる能力を身に着けている。さらに、人間に対して直接コミュニケーションが図れる対話型AIも徐々に浸透している。こうした状況の中、人間とAIとの間の関係性を健全なものにするための要素として、Empathyを取り上げた議論も、多くのセッションで交わされた。

“UBERLAND: Algorithms and the Future of Work”

　本セッションの登壇者は、エスノグラフィー調査でUberを使い倒し、Uberに運転手として従事している多数の人を対象とした調査等に関する本を出版した社会学系の研究者、Alex Rosenblat氏である。

図5：Alex Rosenblat氏が執筆した書籍「Uberland」

　Uberは、AIベースの「経営者」が多くの従業員（運転手）を動かしているという意味において、近い将来到来するAI中心社会における組織の先例と捉えることができる。運転手がどの乗客を拾うのか、個々の乗車の値段がいくらなのか……といった「経営判断」はすべてアルゴリズムが決めており、Uberの運転手はアプリ経由で飛んでくる指示に従う形で仕事に従事しているからである。

　そんなUberの運転手を対象とした登壇者の実態調査から明らかになったのは、アルゴリズム中心経営の弊害である。具体的な事例として、Uber需要が高まる祝日になると、アプリから運転手に対し、「おめでとう！　本日は祝日につき値下げします。この値付けは利益アップを生みます！」という趣旨の一斉通知が発信された出来事が紹介された。

　Uberのアルゴリズムによるこの判断は、Uberのビジネス全体の目線では正しい可能性は高い。しかし、運転手にとって納得感のあるメッセージとはいいがたいだろう。しかし、相手がAI（アルゴリズム）であるため、運転手としては反論も交渉もできず、指令に従わざるを得ないのが、Uberにおける仕事の実態なのである。

　一部の市場において、Uberに対する運転手の待遇改善を求める運動が勃発しており、社会問題に発展しかかっている。この問題にはいくつもの要因があるが、上記のようなアルゴリズム中心経営により、運転手の不満が蓄積していることも影響しているだろう。こういった問題を回避するための対策として、たとえ指示の内容が単純作業に近いようなものであっても、共感を示せる「AI経営者」が重要であることを感じさせた。

チャットボットにも存在する「不気味の谷」

“Will Machines be Able to Feel?”

　続いてのセッションのテーマは、表題の通り、ロボットや対話AIがどこまで「感情（feeling）」を持つことができるか？　という内容だが、実際問題、AIが人間と同様の「感情」を持つことは難しいというのが登壇者の意見である。しかし、AIは自身の「感情」を模擬する反応を表現することは十分可能である。そして、人間もAIが表現する「感情のような」反応を敏感に感じ取っていることを示す研究例が出てきている。

　紹介された研究例のなかで印象的だったのは、チャットボットにも「不気味の谷」が存在することを示した実験である。この実験では、テキストだけの「チャットボット」と、人の顔が表示され、応答を読み上げる「アバターチャットボット」（裏の対話エンジンは同じ）のそれぞれに対し、被験者に対話をしてもらい、生体反応などを観測している（図6参照）。

　その結果、「アバターチャットボット」と対話した被験者の方が、高いエンゲージメントを感じた一方、ストレスも強いことが確認されたとのこと。顔を表示するというだけのシンプルな表現であっても、人間の生理的な反応を呼び起こすことが示されたのである。

　対話AIを公開する際に、利用者に愛着を持ってもらいたいという意図で何気なく顔写真を一緒に表示させる工夫を取り入れがちだが、利用者の心理状態に与える影響は想定以上に大きいことが、上記の研究によって示唆されている。より良い対話AIを実現するために、機械学習などのアルゴリズムに注力することも大事だが、心理学・生理学などに関する知見の有効活用も並列に考える必要がありそうだ。

図6：本セッションで紹介されたチャットボット実験の比較図（筆者撮影の講演スライド）