japanja
SI Opener:企業はAIの利用に伴う問題を無視すべきではない

SI Opener:企業はAIの利用に伴う問題を無視すべきではない

02-02-2021 | SI Opener
米国で最近起きた出来事によって、人工知能(AI)の利用が負の社会的問題に発展しうることが確認されました。例えば「米国大統領選は不正選挙だった」という話題に関心を持つ人々は、ソーシャルメディア企業が用いるアルゴリズムの影響で、それを裏付けるような情報しか目にしないことになります。他の事実や意見から遮断されることになり、弊害が生じることもあります。
  • Masja Zandbergen - Albers
    Masja
    Zandbergen - Albers
    Head of sustainability Integration
  • Daniëlle Essink
    Daniëlle
    Essink
    Engagement Specialist

要点

  • 一部のセクターではAIがEBITの20%をもたらす
  • AIに伴う問題は公民権に対する脅威、事故、バイアスなどに及ぶ
  • 企業はこれらの問題に対する責任を負うべき

マッキンゼーが実施した調査1によると、企業・組織は価値を生み出すツールとしてAIを利用しています。既にEBIT(利払前・税引前利益)の20%以上がAIからもたらされているセクターも多く、そうした企業が積極的に利用しています。 

投資家にとってこれは前向きな動向ではあるものの、ロベコでは、企業はAIの利用に伴うリスクにも対処すべきであると考えています。この調査では、AIのリスクを認識している企業は少数派であることや、実際にリスク削減に取り組む企業はさらに少数であることも明らかになりました。実際、ロベコがこの問題について企業にエンゲージメントを行うと、規制当局はAIのようなテクノロジーの利用に関する指針をより明確にすべきだという声を、たびたび耳にします。これからの時代に適合していく企業は、規制の導入を待つのではなく、初期段階から責任をもって行動すべきでしょう。

最新の「インサイト」を読む
最新の「インサイト」を読む
配信登録

社会的問題となっているのは何か

公民権: 教育、雇用、住宅、信用スコア、治安維持、刑事司法など、社会的配慮が求められる分野において、AIシステムの利用が進んでいます。背景知識やインフォームド・コンセントなしに利用されることが多いため、公民権や人権が脅かされることがあります。例えば、顔認識システムの利用拡大に伴い、その運用対象から逃れることはほぼ不可能となり、プライバシー権がリスクにさらされています。

労働と自動化: 職場においてAI導入による自動化が進むことにより、効率性が改善され、反復的な作業が削減される可能性があります。自動化の影響によって、一部のセクターでは雇用が創出される一方で、別のセクターでは労働力が代替されるなど、職業が変化していく見通しです。また、AIの導入は勤務状況の監視強化にもつながりうるため、自らがどのように管理、評価されているのかを従業員が十分認識できるよう、各企業は努めるべきでしょう。さらに、ITセクター特有の例として、AIシステムの構築、保守、テストを支える人員による隠れた労働が挙げられます。このように人目に触れず、反復的で、認知されにくい労働は「クリック・ワーキング」とも呼ばれ、作業単位で報酬が支払われるため、作業に見合わない低賃金となることが多い状況です。 

安全と説明責任: 金融サービス、病院、エネルギー供給など多くのセクターにおいて、AIはすでに意思決定プロセスに組み込まれています。イノベーションを求める市場からの圧力に後押しされる形で、技術的な安全性が確認される前から、さまざまなAIシステムが導入されてきました。ウーバーの自動運転車にはねられて女性が死亡した件や、IBMのシステムが不正確で安全性に欠けるガン治療を推奨した件などは、過ちの事例と言えるでしょう。事故は起こりうるものであるため、社会においてAIシステムが重要な意思決定の役割を担うのであれば、監督と説明責任が不可欠になります。 

バイアス: 幅広く議論されているAIシステムの問題として、偏見や社会的不平等を反映するような、さらにはこれらを強めてしまうようなバイアスが生じやすい点が挙げられます。このようなバイアスは、現存する差別を反映したデータや現代社会の実態にそぐわないデータに起因することがあります。元となったデータにバイアスがなかったとしても、データが展開される中で、さまざまな形でバイアスが組み込まれる可能性があります。ユネスコ(国際連合教育科学文化機関)が公表した報告書2によると、アマゾンのAlexaやアップルのSiriをはじめとするAI音声アシスタントでは、ジェンダーのバイアスが強く見られます。この報告書によると、AI音声アシスタントでは、女性の声がデフォルト設定されていることに加え、女性が従順に服従する存在であることを示唆するようなプログラム構成となっています。現在、AIリサーチャーとソフトウェア開発技術者に占める女性の割合は、それぞれ12%、6%に過ぎません。AIエンジニアの大半を白人の男性技術者が占めるため、アプリケーションの設計において、この属性の価値観や信念へのバイアスが発生する可能性があります。さらに、不適切なモデルや意図せず差別的特徴が反映されたモデルを利用することによって、システムにバイアスが生じるおそれもあります。また、AIシステムが特定の判断を下すに至るまでの経緯が理解不能であるために無意識のバイアスが生じかねない、という「ブラックボックス」問題も、バイアスに関連する問題の1つです。このほか、意図的なバイアスがアルゴリズムに組み込まれることも想定されます。

注目を集めるコンテンツ・モデレーション

ソーシャルメディア・プラットフォームでは、コンテンツ・モデレーション(インターネット上の不適切なコンテンツを監視し、必要があれば削除すること)のアルゴリズムを利用するとともに、スタッフによる監視チームが所定の規則や指針に基づき、ユーザーが生成した投稿をモニタリングしています。この作業には心理的な頑強性が求められるため、通常は、同じ部屋に家族が居るような家庭環境での在宅勤務には適していません。このため、各社は新型コロナウイルスの感染拡大期において、モニタリングするコンテンツの量を減らさざるをえませんでした。 

フェイスブック上での有害な言論や虚偽情報が収益につながる実態を指摘した「#StopHateForProfit」キャンペーンにおいて、コンテンツ・モデレーションの意義と重要性が明確になりました。このキャンペーンの結果、2020年7月には、ターゲット、ユニリーバ、ベライゾンなどの大手企業を含む 1,000以上の広告主が、フェイスブック上での広告掲載をボイコットしています。その後、米国大統領選挙に向かう中でコンテンツ・モデレーションに対する注目は続き、主要なソーシャルメディア企業ではガイドラインと手続きが軒並み厳格化されています。 

投資にはエンゲージメントが不可欠

このような状況を踏まえて、ロベコでは2019年に、人工知能(AI)の社会的影響をエンゲージメント・テーマとして選定、開始しました。運用の観点からは、上記のトレンドには大きな投資機会を見出すことができます。投資機会としてのAIに関する詳細については、ロベコのトレンド運用チームが2016年12月に公表したホワイトペーパー3をご参照ください。一方で、AIが望まざる影響をもたらす可能性があることも認識しており、投資先企業はこうした課題に取り組むべきと考えています。ロベコでは投資先企業に対して以下の5つの対応を求めています。

  1. AIの利用、調達、開発に関して、社会的問題や人権問題に明示的に対処する明確な方針を策定、開示すること。 
  2. AI関連活動について、そのインパクトを定期的に評価すること。その際、差別的な影響、社会的なバイアス、隠れた労働、プライバシーの懸念を評価の対象にすること。
  3. 機械学習に関する管理の複雑性を踏まえ、頑強なガバナンス規定を整備すること。企業は、AIの意図せざる影響に付随する事故やリスクを特定する管理プロセスを備えるべきである。取締役会は、AI管理の枠組みを適切に監督しAIポリシーやリスク報告書を承認する立場として、十分に訓練を受け、十分な経験を備えていることが求められる。
  4. AIの設計や開発の段階において、社会的問題を考慮すること。なかでも、開発チームは人権や倫理の問題について十分な知識を備えることが求められる。また、社会的バイアスを抑制するため、AIチーム内に多様性(ダイバーシティ)やインクルージョンの文化を推進するべきである。
  5. AIの開発や利用に際して、マルチ・ステークホルダー(多様な利害関係者)アプローチを採用すること。ベストプラクティスを共有、促進するためのイニシアティブやプラットフォームが複数存在しており、利用可能である。また、AI法制に関連するロビー活動についての報告も求める。

認識の高まりが必要

2020年1年間を通して、ロベコのエンゲージメント対象企業の多くと議論を行いました。当初は、対応すべき問題なのかを疑問視する企業や、自社の責任を認めない企業も存在しましたが、このうちの数社では、既に考え方がいくぶん変化しつつあるようです。

2020年の株主総会シーズンには、デジタル上の人権にフォーカスした株主提案が増加しました。ロベコはアルファベットの株主総会において株主提案を共同で主導し、関連分野の経験を有する独立取締役から構成される人権リスク監督委員会の設置を要求しました。この決議には約16%の株主が賛成票を投じましたが、これは非支配株主持分のうちのかなりの割合を占めます。 

11月第1週には、アルファベットは監査委員会規則の改定を発表し、サステナビリティや公民権及び人権に関する主要なリスクへのエクスポージャーを監査の対象としました。これは、取締役会による監督の正式な導入を求めたロベコの要請に合致したものであり、人権問題などの個別のサステナビリティ関連課題を管理するための第一歩と言えるでしょう。 

AIの利用は増加する一方であり、人々の今後の生活や仕事に大きな影響が生じる見通しです。モラルや倫理をプログラム化することはできないため、各企業が責任を負うべきでしょう。道のりはまだまだ遠いと考えています。  

2「人工知能とジェンダー平等:ユネスコのグローバル・ダイアログの主な結論(Artificial intelligence and gender equality: key findings of UNESCO’s Global Dialogue)」、2020年8月
SI Opener
SI Opener
百聞は一見にしかず。
全記事を読む

重要事項

当資料は情報提供を目的として、Robeco Institutional Asset Management B.V.が作成した英文資料、もしくはその英文資料をロベコ・ジャパン株式会社が翻訳したものです。資料中の個別の金融商品の売買の勧誘や推奨等を目的とするものではありません。記載された情報は十分信頼できるものであると考えておりますが、その正確性、完全性を保証するものではありません。意見や見通しはあくまで作成日における弊社の判断に基づくものであり、今後予告なしに変更されることがあります。運用状況、市場動向、意見等は、過去の一時点あるいは過去の一定期間についてのものであり、過去の実績は将来の運用成果を保証または示唆するものではありません。また、記載された投資方針・戦略等は全ての投資家の皆様に適合するとは限りません。当資料は法律、税務、会計面での助言の提供を意図するものではありません。

ご契約に際しては、必要に応じ専門家にご相談の上、最終的なご判断はお客様ご自身でなさるようお願い致します。

運用を行う資産の評価額は、組入有価証券等の価格、金融市場の相場や金利等の変動、及び組入有価証券の発行体の財務状況による信用力等の影響を受けて変動します。また、外貨建資産に投資する場合は為替変動の影響も受けます。運用によって生じた損益は、全て投資家の皆様に帰属します。したがって投資元本や一定の運用成果が保証されているものではなく、投資元本を上回る損失を被ることがあります。弊社が行う金融商品取引業に係る手数料または報酬は、締結される契約の種類や契約資産額により異なるため、当資料において記載せず別途ご提示させて頂く場合があります。具体的な手数料または報酬の金額・計算方法につきましては弊社担当者へお問合せください。

当資料及び記載されている情報、商品に関する権利は弊社に帰属します。したがって、弊社の書面による同意なくしてその全部もしくは一部を複製またはその他の方法で配布することはご遠慮ください。

商号等: ロベコ・ジャパン株式会社  金融商品取引業者 関東財務局長(金商)第2780号

加入協会: 一般社団法人 日本投資顧問業協会