SI Opener：企業はAIの利用に伴う問題を無視すべきではない

マッキンゼーが実施した調査¹によると、企業・組織は価値を生み出すツールとしてAIを利用しています。既にEBIT（利払前・税引前利益）の20%以上がAIからもたらされているセクターも多く、そうした企業が積極的に利用しています。

投資家にとってこれは前向きな動向ではあるものの、ロベコでは、企業はAIの利用に伴うリスクにも対処すべきであると考えています。この調査では、AIのリスクを認識している企業は少数派であることや、実際にリスク削減に取り組む企業はさらに少数であることも明らかになりました。実際、ロベコがこの問題について企業にエンゲージメントを行うと、規制当局はAIのようなテクノロジーの利用に関する指針をより明確にすべきだという声を、たびたび耳にします。これからの時代に適合していく企業は、規制の導入を待つのではなく、初期段階から責任をもって行動すべきでしょう。

公民権: 教育、雇用、住宅、信用スコア、治安維持、刑事司法など、社会的配慮が求められる分野において、AIシステムの利用が進んでいます。背景知識やインフォームド・コンセントなしに利用されることが多いため、公民権や人権が脅かされることがあります。例えば、顔認識システムの利用拡大に伴い、その運用対象から逃れることはほぼ不可能となり、プライバシー権がリスクにさらされています。

労働と自動化: 職場においてAI導入による自動化が進むことにより、効率性が改善され、反復的な作業が削減される可能性があります。自動化の影響によって、一部のセクターでは雇用が創出される一方で、別のセクターでは労働力が代替されるなど、職業が変化していく見通しです。また、AIの導入は勤務状況の監視強化にもつながりうるため、自らがどのように管理、評価されているのかを従業員が十分認識できるよう、各企業は努めるべきでしょう。さらに、ITセクター特有の例として、AIシステムの構築、保守、テストを支える人員による隠れた労働が挙げられます。このように人目に触れず、反復的で、認知されにくい労働は「クリック・ワーキング」とも呼ばれ、作業単位で報酬が支払われるため、作業に見合わない低賃金となることが多い状況です。

安全と説明責任: 金融サービス、病院、エネルギー供給など多くのセクターにおいて、AIはすでに意思決定プロセスに組み込まれています。イノベーションを求める市場からの圧力に後押しされる形で、技術的な安全性が確認される前から、さまざまなAIシステムが導入されてきました。ウーバーの自動運転車にはねられて女性が死亡した件や、IBMのシステムが不正確で安全性に欠けるガン治療を推奨した件などは、過ちの事例と言えるでしょう。事故は起こりうるものであるため、社会においてAIシステムが重要な意思決定の役割を担うのであれば、監督と説明責任が不可欠になります。

バイアス: 幅広く議論されているAIシステムの問題として、偏見や社会的不平等を反映するような、さらにはこれらを強めてしまうようなバイアスが生じやすい点が挙げられます。このようなバイアスは、現存する差別を反映したデータや現代社会の実態にそぐわないデータに起因することがあります。元となったデータにバイアスがなかったとしても、データが展開される中で、さまざまな形でバイアスが組み込まれる可能性があります。ユネスコ（国際連合教育科学文化機関）が公表した報告書²によると、アマゾンのAlexaやアップルのSiriをはじめとするAI音声アシスタントでは、ジェンダーのバイアスが強く見られます。この報告書によると、AI音声アシスタントでは、女性の声がデフォルト設定されていることに加え、女性が従順に服従する存在であることを示唆するようなプログラム構成となっています。現在、AIリサーチャーとソフトウェア開発技術者に占める女性の割合は、それぞれ12%、6%に過ぎません。AIエンジニアの大半を白人の男性技術者が占めるため、アプリケーションの設計において、この属性の価値観や信念へのバイアスが発生する可能性があります。さらに、不適切なモデルや意図せず差別的特徴が反映されたモデルを利用することによって、システムにバイアスが生じるおそれもあります。また、AIシステムが特定の判断を下すに至るまでの経緯が理解不能であるために無意識のバイアスが生じかねない、という「ブラックボックス」問題も、バイアスに関連する問題の1つです。このほか、意図的なバイアスがアルゴリズムに組み込まれることも想定されます。

ソーシャルメディア・プラットフォームでは、コンテンツ・モデレーション（インターネット上の不適切なコンテンツを監視し、必要があれば削除すること）のアルゴリズムを利用するとともに、スタッフによる監視チームが所定の規則や指針に基づき、ユーザーが生成した投稿をモニタリングしています。この作業には心理的な頑強性が求められるため、通常は、同じ部屋に家族が居るような家庭環境での在宅勤務には適していません。このため、各社は新型コロナウイルスの感染拡大期において、モニタリングするコンテンツの量を減らさざるをえませんでした。

フェイスブック上での有害な言論や虚偽情報が収益につながる実態を指摘した「#StopHateForProfit」キャンペーンにおいて、コンテンツ・モデレーションの意義と重要性が明確になりました。このキャンペーンの結果、2020年7月には、ターゲット、ユニリーバ、ベライゾンなどの大手企業を含む 1,000以上の広告主が、フェイスブック上での広告掲載をボイコットしています。その後、米国大統領選挙に向かう中でコンテンツ・モデレーションに対する注目は続き、主要なソーシャルメディア企業ではガイドラインと手続きが軒並み厳格化されています。

このような状況を踏まえて、ロベコでは2019年に、人工知能（AI）の社会的影響をエンゲージメント・テーマとして選定、開始しました。運用の観点からは、上記のトレンドには大きな投資機会を見出すことができます。投資機会としてのAIに関する詳細については、ロベコのトレンド運用チームが2016年12月に公表したホワイトペーパーをご参照ください。一方で、AIが望まざる影響をもたらす可能性があることも認識しており、投資先企業はこうした課題に取り組むべきと考えています。ロベコでは投資先企業に対して以下の5つの対応を求めています。

1. AIの利用、調達、開発に関して、社会的問題や人権問題に明示的に対処する明確な方針を策定、開示すること。

2. AI関連活動について、そのインパクトを定期的に評価すること。その際、差別的な影響、社会的なバイアス、隠れた労働、プライバシーの懸念を評価の対象にすること。

3. 機械学習に関する管理の複雑性を踏まえ、頑強なガバナンス規定を整備すること。企業は、AIの意図せざる影響に付随する事故やリスクを特定する管理プロセスを備えるべきである。取締役会は、AI管理の枠組みを適切に監督しAIポリシーやリスク報告書を承認する立場として、十分に訓練を受け、十分な経験を備えていることが求められる。

4. AIの設計や開発の段階において、社会的問題を考慮すること。なかでも、開発チームは人権や倫理の問題について十分な知識を備えることが求められる。また、社会的バイアスを抑制するため、AIチーム内に多様性（ダイバーシティ）やインクルージョンの文化を推進するべきである。

5. AIの開発や利用に際して、マルチ・ステークホルダー（多様な利害関係者）アプローチを採用すること。ベストプラクティスを共有、促進するためのイニシアティブやプラットフォームが複数存在しており、利用可能である。また、AI法制に関連するロビー活動についての報告も求める。

2020年1年間を通して、ロベコのエンゲージメント対象企業の多くと議論を行いました。当初は、対応すべき問題なのかを疑問視する企業や、自社の責任を認めない企業も存在しましたが、このうちの数社では、既に考え方がいくぶん変化しつつあるようです。

2020年の株主総会シーズンには、デジタル上の人権にフォーカスした株主提案が増加しました。ロベコはアルファベットの株主総会において株主提案を共同で主導し、関連分野の経験を有する独立取締役から構成される人権リスク監督委員会の設置を要求しました。この決議には約16%の株主が賛成票を投じましたが、これは非支配株主持分のうちのかなりの割合を占めます。

11月第1週には、アルファベットは監査委員会規則の改定を発表し、サステナビリティや公民権及び人権に関する主要なリスクへのエクスポージャーを監査の対象としました。これは、取締役会による監督の正式な導入を求めたロベコの要請に合致したものであり、人権問題などの個別のサステナビリティ関連課題を管理するための第一歩と言えるでしょう。

AIの利用は増加する一方であり、人々の今後の生活や仕事に大きな影響が生じる見通しです。モラルや倫理をプログラム化することはできないため、各企業が責任を負うべきでしょう。道のりはまだまだ遠いと考えています。

¹「グローバル・サーベイ：AIの現状－2020年（Global survey: The state of AI in 2020）」、マッキンゼー
²「人工知能とジェンダー平等：ユネスコのグローバル・ダイアログの主な結論（Artificial intelligence and gender equality: key findings of UNESCO’s Global Dialogue）」、2020年8月