CHINA
需要道德约束的算法——安索帕2018科技趋势解读系列之七

2018/5/16

需要道德约束的算法——安索帕2018科技趋势解读系列之七

来自安索帕全球市场的创新和策略专家们,通过探索人性与科技之间不断进化的关系,预测了2018年科技发展的五大趋势。

  1. 身体语言使我们能够以人体为界面,用我们的眼睛和耳朵取代触摸和打字。
  2. 科技促进共享经济的发展,个体消费者变成了社群成员,会员关系成为新的所有权关系。
  3. 个性化经济崛起。人工智能能够提供的更多个性化产品、价格和场所。
  4. 在一个充满假新闻和算法偏差的世界里,有道德准则吗?道德算法着眼于将技术变成其中的积极因素。
  5. 通过研究制造者和机器,我们探索艺术与技术的非凡结合,并创造出我们从未想象过的事物。

这次我们来谈谈趋势四 – 需要道德约束的算法。

唯有把好道德关,科技的潜力才能被正确地发挥出来。“我很乐观,因为我们已经开始意识到并谈论这些有偏见的算法” Tim O'Reilly如是说道。 (Tim O'ReillyO'Reilly Media创始人,最先提出Web 2.0概念一词者)

近几个月,我们面临着许多的挑战,从假新闻、算法的偏差,到机器人取代人类工作,这些信号都提醒我们必须在科技进化与人性判断中找到平衡点。

自动化带来一系列以前从不需要考虑的困境,例如: 当无人驾驶汽车出车祸时,我们该教它优先保护乘客还是考量行人的安全?

随着科技的发展,管控的范围与平衡也需要不断的被修改。

此趋势衍生出以下两个子趋势:

1 .训练算法的道德准则

2 .重新思考共享经济

首先分享第一个子趋势——训练算法的道德准则

现状:算法具有意识吗?

算法渗透我们的生活,也开始”学习”我们带有偏见、非正确的言语。

案例一:
Tay Bot 在网络中学习到人类的偏见受到道德质疑

微软的Tay Bot是第一个受到道德质疑的人工智能,它被赋予学习人类语言的能力,在24小时内不受管制的网络学习中,它却自主形成了种族歧视与厌恶女性主义的倾向。

当然,Tay Bot是最极端的例子。特斯拉CEO Elon Musk 曾说“人工智能的管理,需要采取高度主动的监控,而非被动的反应处理”。虽然我们在中立的立场上去看待算法,但它仍然有可能会自主发展得像人类一样有偏见,却缺乏人类的自我反省与纠正能力。


案例二:
DoNotPay为难民提供法律援助

DoNotPay 是一个具利他主义目标的机器人。开发者 Joshua Browder 是斯坦福大学的学生,他的聊天机器人帮助难民获得法律建议、协助申请正式移民以及提出战乱庇护请求。

Browder当初开发聊天机器人是为了处理停车罚单,成功解决了16万张不合理的罚单,而后发展成为协助弱势群体找到紧急住所的聊天机器人。

DoNotPay通过Facebook Messenger,为需要法律帮助的人,提供简单而快捷的协助。


案例三:属于你的独一无二的
人工智能朋友” Replika

Replika 是一个智能机器人,使用者可以训练Replika 的反应,对话练习越多,Replika 越能了解你。使用者也可以串联 Facebook,让 Replika 获得更多相关资讯。

开发者表示 Replika 就是你,你的一言一语都是它学习的对象,让它成为最了解你的朋友。

对于品牌以及商业的意义

1.激进的透明度 

企业十分依赖自动化的分析,不管是求职者推荐、信贷审查或是信用卡资格都需要充分了解算法的设计,以及其中可能存在的偏差。需要将“检查”和“校正”建立到流程中,以便发现和调整这些问题,因为我们不能将“是机器人做的”作为借口推卸责任。

2.多样化的设计

随着使用界面变的更人性化,甚至更依赖图像和语音的输入方式。品牌需要确保软件的反应不僵化或单一,例如学习辨识不同人种特征、语言等来对应其需求,这必须依靠开发团队的多样性来写出丰富的算法。
接下来,我们一起看一下第二个子趋势——共享经济。

现状:重新思考共享经济

近年来受惠于移动互联网及数据演算技术的普及,共享经济发展更加蓬勃,人们更能有效分工、安排自己的劳动时间,甚至多份额外的收入;曾被誉为改变劳资双方僵化的革命,但在最近受到各方的关注与批判。

虽然年轻一代追求工作上的自由,对于弹性的工作模式感到满意,但这种模式仍有信息不透明的隐患,另外也衍生第三方平台是否提供带薪病假及工作意外险等保障的争议,这一切的透明度与可行性将受到更严格的审查。

我们认为以“ 按需经济(On Demand economy)”为服务核心发展的企业将会受到最大的挑战,他们必须思考如何满足消费者需求,同时又照顾到员工并兼顾公司利益发展。 

从产品销售到服务合作的思维改变

IKEA 最近宣布收购Task Rabbit,一个提供劳力出租服务的媒介平台,工作类型从清洁、回收大型家具、搬家打包,到最重要的——组装IKEA 家具。劳力出租者可掌控设定适合自己的工作类型与接受的时薪。

与 Task Rabbit的合作中,IKEA不仅解决顾客的组装困扰,也让顾客获得更有弹性,价格更合理的服务,因而创造了一个On Demand的新领域。

同样,英国百货公司 John Lewis 推出了家庭解决方案的服务(Home Solutions),将顾客需求与150名值得信赖的当地劳力出租者配对。在将来,该品牌计划重新建构店内的服务体验,一切以服务顾客为中心,可能包含形象设计、个人购物及家居设计。 

Source: TaskRabbit.com

集体的兴起

On Demand工作的弹性运作吸引了许多人,我们预测未来工作的管理会从集中模式转变为集体运作。

透过区块链 (Blockchain) 开放的、去中心化的纪录技术,将可能改善目前信息不透明,有效改善共享经济中劳务供需双方的不信任感等的问题,未来人们不再需要一个掌控与管理的平台,而是达到一个平权的状态。

对于品牌以及商业的意义

1.透过协作模式强化"体验经济的转型 

随着线上购物的便利化,品牌与消费者越来越重视服务和体验。因此品牌需要大幅提升目前尚未完备的技能。除了大规模招募新鲜血液和制定培训计划外,也不妨考虑借助外部独立工作者的专业技能,建立合作互惠的关系。 

2.集体决策 

从提供产品到提供服务,接下来我们预期会看到品牌提供消费者共享资源。金融投资平台eToro利用群众智慧,将投资绩效信息透明化,让平台用户可以追踪到最佳绩效操作的用户,成为投资决策的参考指标。

The Food Assembly 连接消费者与食品供应者——如农夫、面包师、酿酒师,在每次的大会上,各个供应者提供自己的商品与自订的价格,消费者可深入了解供应者的理念,也可在特定时间内团购,再到社区的临时摊位取货。突破了以往由大型零售商掌控市场走向的限制,也帮助供应者更进一步了解消费者的需求。

 

安索帕中国

最新资讯