私たちがインターネットで何かしらを「検索」する時、その検索結果の表示順位を決めているのは「アルゴリズム」だ。
アルゴリズムとはいったい何なのか。 書籍『Algorithms for Dummies』（ジョン・ポール・ミューラー、ルカ・マサロン共著 2017年4月刊行, 未邦訳）には次のように定義されている。
アルゴリズムとは、「いいね！」等の反応、検索および閲覧履歴、興味、交際ステータスなどに基づき、オンライン上に表示されるものを決定する数学的計算式。
身近な例を挙げよう。
猫好きなあなたは 「Amazon定期おトク便」でキャットフードを注文する。YouTubeでよく視聴するのは猫たちのふざけた動画。猫の保護団体に定期的に寄付をしている。Googleで子猫のノミ取り器を検索したことがある。
これらの行為すべてがオンライン世界に残す手がかりとなる。そして、Facebookを開けば猫関連商品の広告が、メールボックスを開けばノミ取りグッズのバナー広告が表示される。さらに、直近の検索履歴から、とあるショップのワンピースを気に入ったとわかると、Googleに「猫柄のワンピース」が表示される。
平たく言うと、これが「アルゴリズム」だ。
「要件」どおりなだけであり、必ずしも「適正」「公平」ではないアルゴリズム
近年、このアルゴリズムがますます幅を利かせ、私たちの生活のあらゆる面で大きな役割を果たすようになっている。就職試験、住宅ローン審査、懲役刑期の決定、さらには選挙戦にまで影響を及ぼしている。米国大統領選でドナルド・トランプ陣営は、アルゴリズムを使った行動マーケティングで「影響を受けやすい」有権者集団を見つけ出し、勝利に貢献した。
過去の視聴履歴に基づき「Netflix」でおすすめ映画を教えてくれる。ファッションの好みに合わせてオンラインストアの広告が表示される。好きなバンドのライブ情報をバナーで知らせてくれる。こんな「無害」なことなら、アルゴリズムは何ら問題ない。
しかし、もっとシリアスなことに関わってくると、ちょっと恐ろしい。
例えば、企業の採用活動だ。大手企業では大勢の志望者の中からアルゴリズムで人選するケースが増えている。このことを考えると、私の頭に浮かぶのは、躁うつ病を患っている高学歴男性の話だ。彼が最低賃金レベルの仕事に応募したところ、資格は十分に満たしているのに不採用となるケースが続いたのだ。弁護士でもある彼の父親がよくよく調べたところ、いずれの会社も人事管理システム開発企業 「Kronos Incorporated」 (本社: 米マサチューセッツ州ローウェル)が提供する「性格診断テスト」を用いていたことが判明。そのアルゴリズムは、障害者に差別意識があると思われる人たちによって書かれていたのだ。
アルゴリズムを書くのが人間である以上、偏見や差別意識がプログラムに混じり込む可能性がある。秘密めいた「アルゴリズム」によってコンピューターにはじかれ、いつのまにか理由もわからぬまま「普通の生活」からはじき出された「下層階級」が生み出される恐れがあるということだ。
データ・サイエンティストのキャシー・オニールは、アルゴリズムを無批判に受け入れることに警鐘を鳴らす。
アルゴリズムは公正ではありません。現に、アルゴリズムによって社会的弱者への偏見が強まっているとオニールは感じている。
「最適」を定義するのはアルゴリズムを作る人間ですから。
コンピューターによる判断は、多くの場合、ユーザーの同意なしに収集したデータを基にしている。
ユーザーがオンライン上に残す手がかりから、性的指向、性格、政治信条...いろんなことを推測します。 かなりの正確性でユーザー情報を予測します。ノース・カロライナ大学科学技術社会学部のゼイナップ・トゥフェックチー教授は言う。
使い方次第では差別の原因にも
アルゴリズムは正しく使われれば有用だが、多くの場面で社会的弱者の排除に利用されている、との意見もある。自殺癖のある人を探し出すアプリにもアルゴリズムが使われているそうだ。深刻な鬱病を患っている人の家族や友人にすれば重宝するアプリかもしれないが、これが求職者の選別に使われる日も近いのではないだろうか。
©Pixabay
アルゴリズムに「財政的メリット」があるのは確かだ。大企業ではコンピュータ・プログラムを使って何千人もの応募者の願書や履歴書を数秒以内に処理し、資格や経験年数順に並べ替えるのだから便利この上ない。しかし、それ以外の目的では使うべきでない。
求職者が履歴書にアルゴリズム対策をするようになる、つまり企業が好むそれらしいキーワードを散りばめるようになるとしよう。すると、最新情報にアクセスでき、企業ウケする履歴書をいち早く準備できるリッチな者だけが有利となり、情報にアクセスできない者たちは、どれだけ適性があろうとも書類審査で落とされてしまう。
アルゴリズムによって人事部門のコストは大幅に削減できる。にしても、私たちは自問すべきだ。
ビル・ゲイツやウォーレン・バフェット(*)は、コンピュータのフィルターで振るい落とされずに済んだだろうか。
アルゴリズムによって、一定条件に収まりきらない創造力溢れる人物を見落としてしまうことはないのだろうか。
*ウォーレン・バフェット: アメリカを代表する投資家、資産家。世界で最も裕福な人間の一人。
個性的な人に不利に働くのは間違いない。
アルゴリズムというのは、卒業生にどんなスポーツをしたか、関わった課外活動は何だったのかを尋ねるのとよく似ている。どんな答えだったら有利に働くか、そうでないかを誰もが心得ている。誤用されると、主観的判断に取って代わるはずのアルゴリズムが「正当な差別」となりかねない。
司法制度や自動車保険にもアルゴリズム
「司法制度」もアルゴリズムの利用が懸念される分野だ。裁判官の判断に委ねずアルゴリズムで被告人を採点する、これには多くの問題がはらむ（被告人の「居住エリア」などが考慮されるなど不当かつ偏見に他ならない）。アルゴリズムに組み込まれるデータは、一般市民とのやり取りから集められるわけだが、その中には人種差別主義者、性差別主義者、エリート意識が強い者、同性愛を忌み嫌う者がいるのが現実だ。
「被告人アンケート」も必ずしもベストな方法ではない。家族に前科のある者がいるか等、法廷で違法とされている質問をすることが認められ、公正とされている。非常に間違った考えだ。
自動車保険の世界も ジョージ・オーウェルの傑作小説『1984年』に描かれた「監視社会」を思わせる。進化し続けるデータ収集技術によって、保険料率を決定しているのだ。
「テレマティックス」というサービスでは、自動車搭載の通信システムやGPSデータで被保険者の運転状況をリアルタイムで分析し、アルゴリズムとリアルタイムデータ分析によってコスト計算を行う。監視されることを気にしない運転者向けに、保険料を割り引いた「ドライブレコーダー付き自動車保険」を提供している保険会社も増えている。
ローン審査にはじかれたFRB議長
「住宅ローン審査」にもアルゴリズムが利用されている。審査に通りにくいのは、高齢者（たとえローンを完済できる資産があっても）、25歳から45歳の女性（子どもの養育費がかかる場合）、若い頃にクレジットカードの滞納履歴がある人（その後ずっと支払いに問題がなくても）。アルゴリズムはデータしか見ていないのだから。この点においては、血の通った人間の方がずっとまともな判断ができるだろう。ローン申請者の全体像はデータだけでは把握できない。以前、こんな記事を読んだことがある。ある男性が8年間勤めた会社を辞め、住宅ローンの借り換え申請をしたが却下されたと。その前には20年に及ぶ立派な職歴があり、今後は無所属で講演活動を続けるつもりだったこの男を、アルゴリズムは「リスクあり」と判断したのだ。
その男の名はベン・バーナンキ。直近に退いたポストとは「米連邦準備制度理事会(FRB)の議長」で、1回の講演料は25万ドル（約2700万円）、それだけで住宅ローンの小切手を切ることができるほどだ。個人としてのリスクはささいなものなのに、ロボットやアルゴリズムにはそれがわからない。コンピュータは常に正しい判断をするわけではないのだ。
アルゴリズムは十分に客観的なのか？！
「客観的」とされているアルゴリズムだが、所詮は人間の手による選択に基づいたもの。その人の先入観や誤解、偏見が組み込まれたコンピュータ・プログラムが私たちの運命を決定し、人生を管理するようになっている。アルゴリズムによる判断が不適切または不利に働くものだったとしても、アルゴリズムは論争や嘆願の対象とならない。貧しい社会的弱者に不利に働く傾向もある。ひょっとしたら近い将来、大学入学試験や傲慢な企業の採用試験で、「父親や祖父は名門大学の卒業生か」と尋ねられる日が来るかもしれない。
私たち一般人は、アルゴリズムによって不利な判断をされた場合に、保護や説明を求める権利を持つべきだ。透明性や説明責任の向上も必要。とは言え、アルゴリズムを社会的欠陥の原因にすべきではない。偏見はいつの時代にも存在するのだから。
しかし、データが生活のあらゆる面に影響するようになったこの状況に不安を覚えざるを得ない。「隠れた偏見」の犠牲者たちの不満も今後高まっていくだろう。この無秩序に何らかの対策が取られるまで、私たちは皆、コンピュータに「NO！」とはじかれるリスクがある。
By Danielle Every (Senior Research Fellow in social vulnerability and disasters, CQUniversity Australia)
Courtesy of The Conversation / INSP.ngo
ビッグイシュー・オンラインのインターネット関連記事
・個人情報の売買、フェイクニュース、買物履歴から妊娠予測…便利さを手に入れる代償、インターネットの裏側を知ろう・「有料コンテンツを優先的に表示、不快とみなした投稿を制御する！？ でも、フェイスブックをどう活用するかはあなたしだい」
▼関連本誌バックナンバー
THE BIGISSUE JAPAN 311号特集：「ダークウェブ－ネット社会の深い闇」
https://www.bigissue.jp/backnumber/311
THE BIGISSUE JAPAN 289号
「フェイスブック、有料コンテンツを優先的に表示、深いとみなした投稿を制御する！？」
https://www.bigissue.jp/backnumber/289/
