2019年7月14日日曜日

[粗訳] なぜ「アクセシビリティ・バイアス」は無視され続けているのか?


※本エントリーは「Why Do We Fix AI Bias But Ignore Accessibility Bias?」を雑に翻訳したものです。

なぜ[AIバイアス」は修正されるのに「アクセシビリティバイアス」は無視されているのか?

By Kalev Leetaru

シリコンバレーは、いま人工知能のバイアスへの対処に夢中だ。
ディープラーニングのアルゴリズムが研究室を飛び出して現実世界に進出するにつれ、限られた西洋の訓練データがグローバル化されたデジタル世界と衝突し、ディープラーニングの生得的なバイアスの影響に対する認識が高まってきた。懐疑的になりつつある一般の人々、容赦ない報道、そして高まる政治家の関心に直面して、ディープラーニングコミュニティはそのようなバイアスにどう対処するかにフォーカスし、一連の投資とイニシアティブで対応してきた。
このようなデジタルの変化は、ますますアクセスしにくくなっているウェブをもたらし、これまで以上に障害者との間に大きなデジタルデバイドを生み出し、世界を手の届かない場所にしている。
人工知能のバイアスに対抗するため膨大なリソースが投入されているのとはまったく対照的に、アクセシビリティバイアスはほとんど注目されていない。一般に最も目に見えるバイアスだけが注目されているのだ。

かつてAIバイアスは主にアカデミックな世界の領域であり、逸話的に評価され、主流のディープラーニングのコミュニティからはほとんど関心を持たれず、主に学術的な追求として傍観的に議論されてきた。
ディープラーニングが現実の世界に進出するにつれて、これらのバイアスの意味が一般の目に明らかになってきた。特に,現代のディープラーニング時代を構築するために用いられる訓練データセットの極端なバイアスは、無数の人口統計学、文化および地理学を積極的かつ厳しく「差別するAI」という形で現れている。一般市民、報道関係者、政治家からの圧力が高まる中、シリコンバレーは人工知能のバイアスを理解し対処することに多額の投資をしてきた。
かつてないことに、現在ディープラーニングに取り組んでいるほとんどすべての大手企業は、AIアルゴリズムのバイアスを評価し軽減するために、少なくとも何らかの正式な評価プロセスを持っている。AIバイアスを主題としたカンファレンスも開催されており、ごくありふれたディープラーニングの研究論文でさえ、方法論のセクションでバイアスの問題に言及することが多くなっている。
メジャーなディープラーニング開発フレームワークでも、統合されたバイアス軽減ワークフローをリリースし始めている。これにより、開発者がバイアスを最小限に抑えるためのベストプラクティス、トレーニングデータの自動バイアス評価から、無害な変数が人種や性別などの制限された変数と予期せずに関連付けられるなどの差別的な相関を識別できる。

しかし、このようなAIバイアスへの関心と投資への高まりに対し、アクセシビリティバイ
アスへの関心と投資はほとんど見られない。
テキストのページが高解像度のリッチな画像やビデオに置き換えられるなど、Webが視覚化されるにつれて、スクリーンリーダーなどのアクセシビリティソフトウェアに依存する障害者がWebにアクセスできなくなっている。感動的な内容のテキストによるツイートは、誰にでもアクセスできる。だが「6人、立っている人」とキャプションされただけの感動的な写真は、スクリーンリーダーに依存している人々にとっては全く意味をなさない。結果、彼らはそこから取り残されてしまう。

ソーシャルメディアに対し、米国政府は、Web時代のようにアクセシビリティを義務化するのではなく、以前は神聖視されていた政府刊行物へのアクセス要件を放棄し、障害者が将来のデジタル政府を利用できない可能性を受け入れて、アクセシビリティを後退させた。
不思議なことに、AIバイアスを国際的な議論の話題に高めた政治家、企業、財団、思想的指導者たちは、アクセシビリティバイアスにはほとんど関心がないようだ。人工知能のバイアスを緩和する新しい法律を提唱している個人や組織は、なぜ同時にアクセシビリティ・バイアスに対処する既存の法律の施行に反対しているのか?そう問われても、彼らは沈黙を守っている。
AIバイアスに多大な関心とリソースを注いでいる財団、出版物、思想的リーダーは、アクセシビリティバイアスに関して言えば、言葉と資金を見失っているようだ。

AIバイアスとアクセシビリティバイアスの間の関心におけるこの明らかな違いは、残念ながらほぼ予想の範囲内である。
シリコンバレーがAIバイアスに関心を持ったのは、それ自体が意図したものではなかった。むしろ、現在の投資は、相当な世論の圧力と政府の介入の脅威の増大によって実現している。
これとは対照的に、かつてアクセシビリティのために積極的に介入していた政府は、逆にソーシャルメディアに対しては後退し、デジタル時代の差別と戦うという議会の関心が薄れていく中で、社会全体での権利剥奪を喜んで受け入れるようになった。
これらを総合すると、シリコンバレーは人工知能への偏見と戦うことに多大な投資をしているが、アクセシビリティバイアスと戦うことにはほとんど関心も投資もなされていない。

残念なことに、こうしたサポートのレベルの違いは、単純な経済性と可視性に帰着する。
AIバイアスは誰にでも影響を与え、デジタル経済を動かす広告やオンラインショッピングのような経済プロセスに特別な影響を与える。最も重要なのは、しばしば人工知能のバイアスが、明らかな形で人々に直接見えていることだ。
対照的に,アクセシビリティバイアスが影響を与えるのは人口のごく一部だ。また、先日のFacebookの画像障害のような短い瞬間を除いて、一般の人が目にすることはほぼない。

Webがもっとアクセシブルになる希望はあるのだろうか?
議会でデジタル・バイアスを警告する最大勢力のいくつかは、それ自体がアクセシビリティ・バイアスの代表である。公式なコミュニケーションでは最もアクセスしにくいメディアに大きく依存し、多様な有権者へアクセシビリティ・オプションを提供することを拒否しているという事実がある。残念ながら、状況がすぐに良くなるという楽観的な余地はほとんどないだろう。

Webをアクセシブルにするための最大の希望は、おそらく経済にある。
簡単に言えば、Webがより視覚的になることで、ソーシャルランドスケープを調節し、操作し、マイニングし、収益化するコンテンツ理解アルゴリズムに関わる多くの人々は失敗している。自分たちのマネタイズのニーズに対応したイメージマイニングアルゴリズムの開発を急いでいる彼らにとって、「副産物としてのアクセシブルなWeb」はありうるかもしれない。

現在の収益化されたWebでは、最も目に見えて経済的に影響力のあるバイアスだけが対処される可能性がある。結局のところ、AIバイアスとアクセシビリティバイアスにおける私たちの関心の間の明らかな違いは、その事実をあらためて認識させてくれる。

0 件のコメント:

コメントを投稿

注: コメントを投稿できるのは、このブログのメンバーだけです。

米国マクドナルド、同社のキオスク端末に「JAWS Kiosk]を導入。視覚に障害があっても音声を用いた操作で注文から支払いまでを単独で実行可能に。

画像引用元: TPGi 米国マクドナルドは2021年9月9日、、支援技術ディベロッパーであるVispero社とと提携し、同社が運営する直営店およびフランチャイズ店舗に設置されているキオスク端末に対し「 JAWS Kiosk 」テクノロジーを採用したことを発表しました。 なおここで...