chinazh
AI技术带来的挑战,企业准备好了吗?

AI技术带来的挑战,企业准备好了吗?

16-03-2021 | 市场观点
此前美国大选“舞弊”说法甚嚣尘上,这一问题引发了人们对于人工智能(AI)和社会问题的思考。社交媒体算法能够操控信息传播,比如对“美国选举舞弊”话题感兴趣的人只能收到大选中的舞弊现象的信息,而接触不到其他事实和观点。诸如此类的负面影响令人担忧。
  • Masja Zandbergen - Albers
    Masja
    Zandbergen - Albers
    Head of sustainability Integration
麦肯锡一项研究[1]显示,众多企业正在利用AI创造价值。在一些善用AI的领先企业,AI的贡献占息税前利润(EBIT)的20%。 这对于投资者来说是利好前景,但荷宝认为企业仍应重视AI的潜在风险。麦肯锡的研究还发现,只有少数企业意识到了AI的潜在风险,采取行动降低风险的企业更是少之又少。荷宝就此问题与企业开展对话沟通时发现,企业普遍认为监管部门应就AI使用设定更明确的预期。我们认为,面向未来的企业不应坐等监管,而应从现在就肩负起相应责任。

AI引发社会问题

民权
AI系统日益频繁用于教育、就业、住房、信用评估、治安维护、刑事审判等领域。一般情况下,无需背景调查或知情同意就可部署AI系统,或将侵犯民权。比如,随着面部识别等技术的推广,公民的隐私权面临威胁。

劳动力与自动化
在工作场所部署AI自动化方案有望减少重复性劳动,提高效率。AI自动化技术会取代一部分工作,同时也会创造新的工作岗位,职业结构或将发生改变。

AI自动化或许还意味着对工作的监控升级。另外,搭建、维护、测试AI系统的工作单调重复、通常不被重视,且往往报酬过低。

安全与问责
AI已参与到金融服务、医院、能源网络等诸多行业的决策过程。迫于市场竞争压力,各类AI系统还未完全成熟就投入市场,可能会造成严重后果。例如Uber无人驾驶车引发交通故事,IBM系统推荐危险或错误的癌症诊疗方案。如果AI系统要在社会决策中发挥关键作用,那么监管和问责将至关重要。

偏见
目前讨论最广泛的问题是AI系统容易造成偏见,这些偏见可能反映甚至加剧已有偏见和社会不平等。

造成偏见的一个原因可能是原始数据不具备广泛的代表性。AI系统发部署过程也可能造成偏见。联合国教科文组织公布的一份报告[2]表明,亚马逊Alexa、苹果Siri等AI语音助手加剧了性别偏见。因为AI语音助手默认设置为女性声音,而且这些程序影射女性生来处于顺从地位。

目前,女性AI研究员和女性软件开发员占比分别只有12%和6%。AI工程师绝大多数是男性,因此应用设计可能会偏向体现男性价值观。

采用错误模型或带有无意识歧视的模型都可能导致系统偏见。“黑箱”问题也可能导致偏见,由于AI系统决策所采用的步骤无从知晓,可能产生不易被察觉的偏见。另外,还有人可能会有意将偏见编入算法。

投资需要多方参与

基于上述原因,荷宝于2019年发起一项关于AI社会影响的参与项目。从投资角度来看,荷宝认为AI蕴藏巨大机遇。不过,我们认为AI也会带来负面影响,建议我们的投资标的企业做到以下五点:

  1. 针对明确存在影响社会和人权隐患的AI技术,制定、发布清晰策略,规范这些技术的开发、使用和采购。
  2. 定期评估AI活动影响,应涵盖歧视性结果、社会偏见、隐性劳动和隐私问题.
  3. 针对机器学习的控制难题,实施严格的管理条例。企业应遵守控制流程,及时发现与AI意外后果相关的事故和风险。董事会应接受全面培训、积累相关经验,能够有效监管AI控制框架,妥善签署AI管控策略和风险报告。
  4. 在设计和开发阶段就需考虑AI带来的社会问题。企业还应在AI团队内部推动多样性和包容性,减少社会偏见。
  5. 企业在开发和使用AI技术时可采用多方利益相关者方法。目前已经有一些旨在分享、推广最佳实践的倡议和平台。我们还希望企业能够撰写报告,分享其倡导AI立法的各项努力。
未来,人工智能将在很大程度上改善并影响人类生活和工作。技术无法自动遵守道德要求,荷宝认为企业应挑起重担。这条路任重道远!

资料来源:
[1] 麦肯锡《2020年人工智能状况》全球调查报告
[2] 人工智能与性别平等:联合国教科文组织全球对话关键发现,2020年8月

免责声明:

本文由荷宝海外投资基金管理(上海)有限公司(“荷宝上海”)编制, 本文内容仅供参考, 并不构成荷宝上海对任何人的购买或出售任何产品的建议、专业意见、要约、招揽或邀请。本文不应被视为对购买或出售任何投资产品的推荐或采用任何投资策略的建议。本文中的任何内容不得被视为有关法律、税务或投资方面的咨询, 也不表示任何投资或策略适合您的个人情况, 或以其他方式构成对您个人的推荐。 本文中所包含的信息和/或分析系根据荷宝上海所认为的可信渠道而获得的信息准备而成。荷宝上海不就其准确性、正确性、实用性或完整性作出任何陈述, 也不对因使用本文中的信息和/或分析而造成的损失承担任何责任。荷宝上海或其他任何关联机构及其董事、高级管理人员、员工均不对任何人因其依据本文所含信息而造成的任何直接或间接的损失或损害或任何其他后果承担责任或义务。 本文包含一些有关于未来业务、目标、管理纪律或其他方面的前瞻性陈述与预测, 这些陈述含有假设、风险和不确定性, 且是建立在截止到本文编写之日已有的信息之上。基于此, 我们不能保证这些前瞻性情况都会发生, 实际情况可能会与本文中的陈述具有一定的差别。我们不能保证本文中的统计信息在任何特定条件下都是准确、适当和完整的, 亦不能保证这些统计信息以及据以得出这些信息的假设能够反映荷宝上海可能遇到的市场条件或未来表现。本文中的信息是基于当前的市场情况, 这很有可能因随后的市场事件或其他原因而发生变化, 本文内容可能因此未反映最新情况,荷宝上海不负责更新本文, 或对本文中不准确或遗漏之信息进行纠正。
与本文相关的主题是: