劳动力与自动化
在工作场所部署AI自动化方案有望减少重复性劳动,提高效率。AI自动化技术会取代一部分工作,同时也会创造新的工作岗位,职业结构或将发生改变。
AI自动化或许还意味着对工作的监控升级。另外,搭建、维护、测试AI系统的工作单调重复、通常不被重视,且往往报酬过低。
安全与问责
AI已参与到金融服务、医院、能源网络等诸多行业的决策过程。迫于市场竞争压力,各类AI系统还未完全成熟就投入市场,可能会造成严重后果。例如Uber无人驾驶车引发交通故事,IBM系统推荐危险或错误的癌症诊疗方案。如果AI系统要在社会决策中发挥关键作用,那么监管和问责将至关重要。
偏见
目前讨论最广泛的问题是AI系统容易造成偏见,这些偏见可能反映甚至加剧已有偏见和社会不平等。
造成偏见的一个原因可能是原始数据不具备广泛的代表性。AI系统发部署过程也可能造成偏见。联合国教科文组织公布的一份报告[2]表明,亚马逊Alexa、苹果Siri等AI语音助手加剧了性别偏见。因为AI语音助手默认设置为女性声音,而且这些程序影射女性生来处于顺从地位。
目前,女性AI研究员和女性软件开发员占比分别只有12%和6%。AI工程师绝大多数是男性,因此应用设计可能会偏向体现男性价值观。
采用错误模型或带有无意识歧视的模型都可能导致系统偏见。“黑箱”问题也可能导致偏见,由于AI系统决策所采用的步骤无从知晓,可能产生不易被察觉的偏见。另外,还有人可能会有意将偏见编入算法。
基于上述原因,荷宝于2019年发起一项关于AI社会影响的参与项目。从投资角度来看,荷宝认为AI蕴藏巨大机遇。不过,我们认为AI也会带来负面影响,建议我们的投资标的企业做到以下五点:
资料来源:
[1] 麦肯锡《2020年人工智能状况》全球调查报告
[2] 人工智能与性别平等:联合国教科文组织全球对话关键发现,2020年8月