AIの陰影:便利さの落とし穴 -「『ユーザーフレンドリー』全史」より

表紙「便利な工業デザインの落とし穴」 心の和
この記事は約12分で読めます。

工業デザインの歴史を通じ、利用者の要求に徹底的に合わせる結果、利用者が思わず触って(操作して)しまう簡便な工業デザインが設計目標となった。
使いやすさを追求した工業デザインは、人を容易に『病みつき』(依存症)にする禁断のトリガーにもなった。
本記事は、クリフ・クアン、ロバート・ファブリカント「『ユーザーフレンドリー』全史」の第9章「便利さの落とし穴」を参考に、便利さを追求する工業デザインがもたらすリスクを分析する。
やがて「取扱説明書なしで誰でも使える」ラクチンな工業デザインに到達すると、その副作用で、人間の欲望の奥底に潜むパンドラの箱が開いてしまった。進化を続けるAIはラクチンな工業デザインを加速している。
記事の後半では、便利な工業デザインと「陰謀論」の関係を、ドナルド・トランプの米国大統領選を例に考察する。

AIの陰影:便利さの落とし穴
松浦公政 2022年
「ユーザーフレンドリー」全史 第9章) クリフ・クアン、ロバート・ファブリカント 2019年発刊
対象読者 ヒトが利便性を通じて「病みつき」になるメカニズムに興味がある方
発達した利便性が、アメリカ大統領選挙に影響を与えたメカニズムに興味がある方
「いいね!」ボタンを押すと、個人の性格を高精度に分析されてしまうメカニズムに興味がある方
文中で文字色が「」の箇所は、当サイトのオリジナルな見解や解釈の色彩が濃い箇所です

記事の音声解説付き(下のプレイボタンで解説開始)

人間を『病みつき』(依存症)に陥れるメカニズム

『病みつき』にする要因は「動機」「きっかけ」「能力」

デジタル依存症イメージ図
要因 『病みつき』(依存症)にしてしまうためのアクション
動機

何でもいいから『動機』を作る。

  動機は、魅力的である必要はなく、平凡でもよいし、虚構(嘘)でも構わない。
きっかけ ユーザーが動機を向上できるように、『きっかけ』を与える。
能力 行動を起こしやすいように実現方法や行動方法を簡易化して、ユーザーに『能力』を与える。

人間は、環境にある「きっかけ」が動機(喜び、苦痛、希望、恐怖、一体感、拒絶)に基づく行動を促すと、新たな習慣を身に着ける(病みつきになる)とフォッグは言う。

人が「病みつき」になるメカニズムに関する研究

条件反射 心理学者B・F・スキナー(1904-1990)の心理分析

スキナーは、自由意志とは幻想で、人の行動は過去の行動結果に依存すると考え、これを『条件反射』と呼んだ。

  もし過去の行動結果が悪いものなら、その行動は繰り返されない確率が高く、良い結果なら、何度も繰り返し行い得る。
可変報酬
人間の脳の報酬系の進化方向の近年の研究成果
報酬系イメージ図
脳の報酬系は、生存に有利な行動を採ると『快楽』という報酬を与えて、その行動を繰り返させるように進化してきた。
  人間の脳は、既知のことを改めて発見しても快楽は感じず、予想外の事態を検知すると快楽を感じる(=可変報酬)。
可変報酬 想定外の事象が発生 可変報酬を求めて行動 行動の結果、生存確率が向上 可変報酬を得にくい脳は、次第に淘汰  
困難と思った状況を克服
不確実だった事象が現実化
可変報酬は、未知情報を収集できる状況と遭遇すると発生する
    既知情報との遭遇例
→基礎的な報酬
快楽の量
未知情報との遭遇例→可変報酬  
内容 種別
事例 毎月の固定給20万円が振り込まれた 配当5万円の大穴馬券を初めて当てた 不確実事象の実現
映画・スポーツ観戦・テーマパークなどで得る想定内の娯楽 当選確率100万分の1の宝くじの1等に当選する 想定外
「弱肉強食」に関する話題 「ジャイアント・キリング」に関する話題 困難克服

病みつきにする工業デザインがもたらすリスク

人を病みつきにする要因である「能力」を向上

いいねボタン
要因 『いいね!』ボタンが「病みつき」にするメカニズム   
動機 何でもいいから記事を投稿する。
  記事は、魅力的である必要はなく、平凡でもよいし、虚構(嘘)でも構わない。
きっかけ 読者が記事に共感(「喜び」「苦痛」「希望」「恐怖」「一体感」「拒絶」など)して行動を促す。
能力 SNSというテクノロジー(工業デザイン)で、容易に自分の意見を投稿(表明)できる。
  通常ならほとんど耳を傾けてもらえない些末な意見でも、容易に不特定多数に聞いてもらえる可変報酬が発信者を行動に駆り立てる。
「いいね!」ボタン か 「反対!」ボタンを押すだけで、容易に自分の意見を表明できる。
  通常なら物理的・立場的に離れた場所にいて意見を伝えられない投稿者に、自分の賛否を表明できることが可変報酬となって、読者を行動に駆り立てる。
利用者が押した「いいね!」ボタンの押下履歴をもとに優先的に配信する情報を選別する。
  通常なら大量の記事の中に埋没してしまう人気薄の記事でも、その種の記事を好む利用者は見落とさなくなる。
リツイートボタン
要因 『拡散(リツイート)』ボタンが「病みつき」にするメカニズム
動機 事例①に同じ。
きっかけ 事例①に同じ。
能力 「投稿」ボタン か 「拡散」ボタンを押すだけで、容易に自分の意見を共有できる。
  通常なら物理的に離れた場所にいて意見を伝えられない読者(フォロワー)に、容易に自分の意見を共有させられる。
「フォロー」ボタンを押すだけで、共感できる意見の持ち主と連携できる。
  物理的に離れた場所にいる同好の投稿者と連携し、相互に肯定しあって(「同じような意見だね!」)承認欲求が満たされた「心地よい」生活が可能となる。

SNSが病みつき化を促進

ネットワーク繋がりイメージ

  既存メディア SNS
利用者へ与える影響 多数の利用者に同じ情報を与える。 利用する者に肯定感を与える。
 
SNSがAIを使って提供する、利用者に肯定感を与えるメカニズム
SNSの機能    利用者へ届く情報   利用者の行動
「いいね!」ボタン
SNSが利用者の性格を分析し、その利用者が共感しそうな内容が優先的に現れるように操作した情報。 自分が共感する情報にだけアクセスし、共感しない情報には興味を持てなくなって無視するようになる。
「いいね!」を押下した記事と近縁の記事をリコメンド配信
「フォロー」ボタン
「拡散」ボタン

  もたらされる個人の生活
 
利用者が持つ認識   利用者の自覚症状
自分の考えと一致する情報だけに包まれ、現実には少数派や周縁部に位置する意見・感想だとしても、自分の意見・感想が世界の中心に位置すると錯覚する。

多くの他者に自己が肯定されて自身の存在価値を感じ、承認欲求が満たされて心地よい幸福感に浸った「自尊心の保養所」にいる。

  もたらされた社会  
利用者の多くが、心地よさをもたらす情報環境に「病みつき」になった。 病みつき者には「情報否定=自己否定」なので、配信される情報を疑うことが恐怖になった。 明白なフェイク情報に対しても疑問を持てない利用者が量産された。

進みすぎたユーザーフレンドリー性は陰謀論拡散の温床となった

SNSで容易に情報を発信・共有できるユーザーフレンドリー性は、政治活動で悪用された。

SNSへ偏った記事を投稿する 一部の偏狭者の関心を集め、拡散される 拡散した偏狭な意見が多数派に見える 多数派意見への同調者が増える SNSの「推奨機能」は、同調者が好む記事を優先配信する

偏狭な記事ばかり読むうちに、偏狭を事実と感じる

上開き長括弧実線
陰謀論を展開するインフラになった。

リスクが顕在化したアメリカ大統領選挙

トランプ支持者を『病みつき』にした事例①

要因
トランプ支持者を『病みつき』にした事例①
動機
ローマ教皇がトランプを支持しているという偽情報をトランプ陣営がツイッターで発信。
きっかけ
時代の趨勢に乗れず、社会から見捨てられていると不満を感じ、何かに救いを求めている読者たちが、ローマ法王という権威が認めた自分たちの救世主(=トランプ候補)という「希望」を得て共感し、「喜び」を分かち合いたいと思った。
能力
「いいね!」ボタン押下で、自分の希望や喜びを、似た境遇の多くの人々と共有できる。
トランプ候補への肯定が広がった結果 ⇩
ローマ教皇がトランプを支持しているという偽情報のシェア数は87万だが、その嘘を暴露した情報のシェア数は3万しかない。
 

トランプ候補を支援した中心的な宗教勢力の「福音派」は、キリスト教プロテスタントの一宗派で、キリスト教カトリックのローマ法王は対立宗派になる。
トランプ陣営は宗教観を無視し、ただ知名度を利用したと見える。だが
、その情報を受け取るトランプ支持者は、宗派の違いよりも、自分の「推し」を有名な権威者(ブランド・イメージ)が認めたという(偽)情報を無邪気に喜んだのだろう。

選挙期間中にトランプ陣営が別の嘘情報をどれだけ発信しても、それを受け取るトランプ支持者は、嘘を肯定する情報しか手に入れなくなるので、情報の真偽を疑う余地が生じにくい。

惑わされた善人イラスト

トランプ支持者を『病みつき』にした事例②

要因 トランプ支持者を『病みつき』にした事例②
動機 米国の政財界や主要メディアが、小児性愛者集団の『ディープステート』(影の政府)に牛耳られているという陰謀論と、それに闘いを挑む救世主に選ばれたのがトランプ大統領だという救世主神話をトランプ陣営がツイッターで発信。
きっかけ 陰謀集団の「恐怖」からトランプ大統領と一緒に米国を守り、陰謀集団に惑わされている反対陣営の人々を陰謀集団から救い出すために、協力しようという「一体感」を共有したいと思った。
能力 「いいね!」ボタン押下で、自分の恐怖や一体感を、同意見の多くの人々と共有できる。
トランプ大統領への肯定が広がった結果 ⇩

陰謀から救い出す使命を共有した多くの有権者は、2020年の米国大統領選でトランプ大統領に7,400万票を投票し(選挙結果は対立のバイデン候補が8,100万票で当選)、SNS依存症の米国での爆発的な拡がりが窺える。

熱狂的な支持者イラスト

米国大統領ドナルド・トランプのSNS利用に関する考察

性格

トランプ大統領横向きシルエット

姪で心理学者のメアリー・トランプの”Too Much and Never Enough”邦訳『世界で最も危険な男』によると、ドナルド・トランプは、ニューヨークでの不動産取引で大富豪となった父親の「プロセス無視/結果のみ評価」「他者を考慮した躊躇は弱さ」の価値観の下で育つ過程で、自分を誇大に表現しないと父親に存在が認められない葛藤(エディプス・コンプレックス)を抱えながら成長。
ドナルド・トランプは今に至るもエディプス・コンプレックスを克服できておらず、父親の死後も満たされない承認欲求と不安を常に内に抱えている。
このため「自分が発案した」「自分が見破った」など自分が「凄い」と他人に認められることに異常に執着する模様。

行動
      
ボルトン大統領補佐官(就任1年2カ月後に事実上の解任)の”The Room where it happened”邦訳『ジョン・ボルトン回顧録』によると、トランプは政権中枢で次のような行動スタイルだったという。
  側近の戦略や思惑を台無しにして、単純で稚拙な個人意見をトランプは躊躇なくSNSで発信した。
世間から自分より「優秀に見られた/評価された」発言・発表をしたホワイトハウスのスタッフは容赦なく解雇し、「自分が」考えた意見を主張した。
下記が絡み合ってトランプは、問題・課題の本質把握が困難で、外交はプロトコルを無視して自分の短絡的な信念に基づく判断で交渉する。
  会議で集中力を持続できない結果、部下の説明をほとんど理解できず、自説を執拗に主張する。
自身の事業の経験から交渉至上主義で、自分の交渉力に絶対的な自信を持つものの、駆け引きは短期的な損得勘定でしか行えず、中長期の影響は考慮できない。
ボルトンから見ると、特にしたたかな交渉相手(例えば金正恩)だと、トランプは目前の成果に固執して安易に譲歩し、中長期の損得計算ができずに国益を毀損している。
状況 予備選から大統領就任直後のトランプは政敵やマスコミの攻撃で承認欲求が満たされず、多大な欲求不満を抱えていたと見られる。
トランプにとっては「自分が認められる」ことが至高の価値で、虚言も周囲の承認を得る手段に過ぎず、大統領の虚言がもたらす悪影響に無関心というより、影響を想像する能力があるか疑問。
すでに依存症に陥っている支持者を相手にするSNSは、自分の発信内容が肯定されて承認欲求が満たされるので、最高の遊び道具だったろう。
まとめ トランプは当初、SNSを自己主張の道具として利用したが、やがて承認欲求を満たす罠に自分がはまった。承認欲求を満たす罠にはまって以降、SNSを戦略的に利用できたとは見えず、SNSを精神安定剤とする依存症に陥ったように見える。
状況
支持者にウケて気持ち良い生活を続けていたトランプは、自分が圧倒的な多数派だと信じるSNSの快楽の罠にはまっていた。
  ※現実に再選選挙で7400万票を獲得し、過半数近くの支持者が実在したが、トランプが信じた圧倒的多数ではない。
病理 トランプは自分が圧倒的な多数派だと信じているため、選挙での敗北は「現実ではない」と思い込み、彼なりに論理的に考えた結果、選挙結果は『不正』を被ったとしか考えられなかった。
  このとき、トランプは(自分がまき散らした妄言の)『影の政府』が実在して不正を主導したとの妄想すら抱いたかもしれない(藪を突いたら、いないはずの蛇が本当に出てきたような感覚)。
不正を放置すると、アメリカ(加えてトランプ自身に快楽をもたらす源泉の大統領の地位)は、正義の制度である民主主義が邪悪な陰謀集団に破壊され、乗っ取られてしまうとの焦燥に駆られた。
行動 2021年1月にトランプは、邪悪な陰謀集団からアメリカの多数派を守る必要があるとの『正義感』と『大統領の責任感』から暴走し、民主主義を護るために議事堂を攻撃するよう支持者を扇動した。
心理 民主主義の象徴たる議事堂への襲撃は、通常は民主主義の破壊行為と受け取られる。
だがトランプに議事堂が象徴する意味を理解する能力が十分に備わっていなければ、大衆ウケを狙った「陰謀勢力の不正から民主主義を防衛する正義の行動」を実行してやった認識だろう。
  ※トランプに好意的に解釈すれば、襲撃は、スポーツの試合で敵の得点機会を意図的な反則行為で阻止するプロフェッショナル・ファールであり、ファールした自分がレッドカードで退場しても仕方ない(自己犠牲で正義を守る)との認識だろう。
襲撃を成功させれば味方の喝さいを浴び、トランプが逆転でヒーローに復活するという子供染みた妄想があっても不思議はない。
まとめ

マズローの欲求5段階説では、下位の要求が満たされると上位の欲求を充足したくなる。

マズローの欲求5段階説ピラミッド

マズローの欲求5段階説

SNS依存で承認欲求が満たされたトランプは、上位の欲求レベルである「自己実現の欲求」を自覚し、その欲求を満たす『能力を生かした創造的活動』を実行したと見える。
トランプの場合は、その創造的活動が自分の扇動能力を生かした襲撃行動だった。
自己実現のプロセスでは、私利私欲は脇に置いて、自分に期待される役割を遂行すること自体が満足感の源泉になるだろう。
自分に期待される役割が陰謀集団からアメリカを護ることだとトランプが感じている限り、虚構の陰謀集団への攻撃衝動を止められないだろう。

AI関連の記事に興味がある方は、ここをクリック

この記事を書いた人
公政

ヒトの行動原理を、書籍や番組で得た「知恵」「知見」を基に言語化します。
ヒトの行動原理に、ソフトウエア開発畑での設計の仕事で蓄積した知見を組み合わせ、独自視点で編成し言語化した『知恵』を発信しています。
ご興味あれば他の記事もご覧ください。

公政をフォローする
心の和

コメント