ユヴァル・ノア・ハラリさんより、"二〇一六～一七年に発生した、フェイスブック社（現メタ社）のアルゴリズムが、ミャンマー（旧ビルマ）で反ロヒンギャの暴力の炎を煽るのを手助けした"といわれる、その内容の根本的な要因に衝撃を頂きました
曰く
"アルゴリズムは試行錯誤を繰り返しながら、憤慨や憎悪を煽って攻撃的な言動に走らせるようなコンテンツがユーザーエンゲージメントを生み出すことを学習し、上からの明確な命令なしに、その種のコンテンツを推奨することに決めた。'.
"これ、すなわち自ら学習し、自ら行動する能力こそがＡＩの特徴だ。'.
"たとえ私たちが、責任の一パーセントしかアルゴリズムには負わせないとしてもなお、これは史上初めての、人間以外の知能が下した決定に責任の一端がある組織的な民族浄化活動だったのだ。"
ここから私は思いました
1、アルゴリズミック・ダークパターン
2、責任の空白
3、自分自身を知ること
1、アルゴリズミック・ダークパターン
ダークパターンについては、製作者が意図して、UI/UXを作ることによって、望ましくない結果に導かれてしまう、ということで、ある意味、そのパターンさえわかれば、意識的な対向も可能かと思うのですが
アルゴリズミック・ダークパターンの場合は、それが製作者がまったく意図していなかったにも関わらず、ある意味違う指示の内容が、実は望ましくない行動を助長してしまっている、と言うことが実際にすでに起きている。と言うことに、衝撃を受けました
AIが人間に及ぼす影響はもう少し先かとも思っていましたが、すでに起きていると言うことが、かなりショッキングでした
ユーザーの反応を学習したAIが、倫理的判断を欠いたまま利益最大化を追求したときに起きる副作用とも言えるかと思いました
2、責任の空白
情報哲学とAI倫理の思想家の、ルチアーノ・フロリディさんは、実際の政策や企業活動にも深く関わる実践的倫理学者が提唱しており
「AIシステムがもたらす結果に対して、誰が責任を取るべきかが曖昧であることが、倫理的・法的課題を生んでいる」2018
特に、アルゴリズミック・ダークパターンについては、開発者が意図していることとは違う可能性もあり、それまでを含めたルールや制度などが、それを考慮した内容である必要があると思いました
3、自分自身を知ること
心理学や行動経済学などを駆使してくる、アルゴリズミック・ダークパターンから逃れるためには、最終的には自分自身の、パッションの源に照らし合わせてみて、その意味合いを一旦考えると言うことが必要かもしれないと思いました
糸井重里さんの、ボールのような言葉にもあるように、なんか違うと言っていい、と言うことかと思います
論理的に整理できてないけど、対案も出せないけど、なんか変だぞということ、言えるそんな関係性や、自らのパッションの源や信念を、自らがあらかじめ理解している、そんな状況が必要なのかなあと思いました
これからは、誰も意図していないところに、なんらかの力が働くことがある、それは人間ではないかもしれないし、意図はないのかもしれないが
一言で言えば
アルゴリズミック・ダークパターン・ノベーション
んなことを思いました^ ^
参考：本: ＮＥＸＵＳ 情報の人類史 下 ＡＩ革命 発行日 ２０２５年３月30日 著者 ユヴァル・ノア・ハラリ 訳者 柴田裕之 発行所 株式会社河出書房新社
