AI技术带来的挑战，企业准备好了吗？
AI引发社会问题
AI系统日益频繁用于教育、就业、住房、信用评估、治安维护、刑事审判等领域。一般情况下，无需背景调查或知情同意就可部署AI系统，或将侵犯民权。比如，随着面部识别等技术的推广，公民的隐私权面临威胁。
劳动力与自动化
在工作场所部署AI自动化方案有望减少重复性劳动，提高效率。AI自动化技术会取代一部分工作，同时也会创造新的工作岗位，职业结构或将发生改变。
AI自动化或许还意味着对工作的监控升级。另外，搭建、维护、测试AI系统的工作单调重复、通常不被重视，且往往报酬过低。
安全与问责
AI已参与到金融服务、医院、能源网络等诸多行业的决策过程。迫于市场竞争压力，各类AI系统还未完全成熟就投入市场，可能会造成严重后果。例如Uber无人驾驶车引发交通故事，IBM系统推荐危险或错误的癌症诊疗方案。如果AI系统要在社会决策中发挥关键作用，那么监管和问责将至关重要。
偏见
目前讨论最广泛的问题是AI系统容易造成偏见，这些偏见可能反映甚至加剧已有偏见和社会不平等。
造成偏见的一个原因可能是原始数据不具备广泛的代表性。AI系统发部署过程也可能造成偏见。联合国教科文组织公布的一份报告[2]表明，亚马逊Alexa、苹果Siri等AI语音助手加剧了性别偏见。因为AI语音助手默认设置为女性声音，而且这些程序影射女性生来处于顺从地位。
目前，女性AI研究员和女性软件开发员占比分别只有12%和6%。AI工程师绝大多数是男性，因此应用设计可能会偏向体现男性价值观。
采用错误模型或带有无意识歧视的模型都可能导致系统偏见。“黑箱”问题也可能导致偏见，由于AI系统决策所采用的步骤无从知晓，可能产生不易被察觉的偏见。另外，还有人可能会有意将偏见编入算法。
投资需要多方参与
基于上述原因，荷宝于2019年发起一项关于AI社会影响的参与项目。从投资角度来看，荷宝认为AI蕴藏巨大机遇。不过，我们认为AI也会带来负面影响，建议我们的投资标的企业做到以下五点：
- 针对明确存在影响社会和人权隐患的AI技术，制定、发布清晰策略，规范这些技术的开发、使用和采购。
- 定期评估AI活动影响，应涵盖歧视性结果、社会偏见、隐性劳动和隐私问题.
- 针对机器学习的控制难题，实施严格的管理条例。企业应遵守控制流程，及时发现与AI意外后果相关的事故和风险。董事会应接受全面培训、积累相关经验，能够有效监管AI控制框架，妥善签署AI管控策略和风险报告。
- 在设计和开发阶段就需考虑AI带来的社会问题。企业还应在AI团队内部推动多样性和包容性，减少社会偏见。
- 企业在开发和使用AI技术时可采用多方利益相关者方法。目前已经有一些旨在分享、推广最佳实践的倡议和平台。我们还希望企业能够撰写报告，分享其倡导AI立法的各项努力。
资料来源：
[1] 麦肯锡《2020年人工智能状况》全球调查报告
[2] 人工智能与性别平等：联合国教科文组织全球对话关键发现，2020年8月
