儿童故事大全,尽在儿童故事之家。
当前位置: 儿童故事> 历史故事> 刘胡兰的故事

朱琳:人工智能要提高企业和社会价值,不能为了AI而AI劳

发布时间:2021-11-09 内容来源: 爱国故事 作者:admin

原标题:朱琳:人工智能要提高企业和社会价值,不能为了AI而AI

出品 | 搜狐商学院

编辑 | 王珍

计算技术的改进,以及可用于训练的数据集海量增长,使得算法能力取得了巨大的进展。一方面,算法保证了一种形式上的客观性,例如它是一种更优的利用现有信息进行决策的工具,产生更小的噪音或偏差,不受人类主观、情感和偏见的影响等。

另一方面,由数据驱动的算法意味着算法对客观性的承诺被更好地描述为对一致性的承诺,而这种一致性并不意味着绝对正确或没有偏见。

未来人工智能算法方面如何兼顾发展与安全可控?搜狐财经《致知100人》对话微软-仪电人工智能创新院、上海仪电人工智能创新院有限公司总经理朱琳,分享她对人工智能发展的关注和思考。

微软-仪电人工智能创新院、上海仪电人工智能创新院有限公司总经理朱琳

有人说人工智能如同一面镜子,反映着人类社会中已存的文化偏见。朱琳认为,算法的公平性取决于它所录入和用于训练的数据是否带有偏见。因为数据和数据集并非客观,而是人类设计的产物。人们赋予数据以表达,从中推理,并以自身的解释去定义数据的内涵。隐藏在收集和分析阶段的偏见将会对人工智能的应用带来一定的风险,而随着算法的广泛采用,对人们生活的控制也会日益增加,人们的担忧也随之加剧。

朱琳谈到,近几年随着有监督机器学习的广泛采用,引起了人们对算法公平性的关注。因此,为提高算法的泛化能力,最好应考虑数据的受保护属性;并且为防止产生歧视,算法应受到公平性指标的约束。因此要实现真正公平的算法,让快速发展的AI具备“道德性”,需要算法的创建者、监管机构,以及负责收集数据的机构多方共同来努力。

微软-仪电人工智能创新院作为人工智能领域里的先行先试者,一直强调科技向善如何选股票的作用与力量。朱琳向《致知100人》指出,人工智能必须要发挥社会责任价值,以服务人类的工作和生活为最终目标。

围绕算法定义的三要素:可解释;无限的接近人类真实环境和使用场景;尽可能减少计算的成本展开切合实际应用场景与需求的落地实践。算法可解释性是判断算法是否适用的重要依据,可解释性越高,算法内在逻辑、技术实现路径、决策过程、预期目标越明晰,算法更易于被理解、匹配、应用和管理。

朱琳举例现在周围人人都知比特币,谈到比特币就离不开区块链。区块链是颠覆性技术,在未来会改变很多行业,就像很多年前的互联网,网络的区块链搜索,腾讯的区块链发票,阿里的菜鸟物流都在用区块链,目前很多企业都在研究如何采用区块链技术用于数字资产登记业务,使平台信息具有可追溯、不可篡改特性。在区块链产业发展初期,交易所、矿池、公有链等基础设施是最先落地,也是最有价值的项目,是构建其他上层生态的基础。目前制约区块链产业发展的一个重要因素,依然是基础实施的缺失。但是普通民众谈及区块链可能关注点都在挖矿炒币这一个点,耗费了大量算力电力,无法带来更广层面的社会价值,这是我们需要思考和引导的。

谈及算法安全,朱琳向《致知100人》表示,当越来越多的算法深度介入人们的生活中必然带来相关的社会问题。但要让人工智能更加安全可控,仅有技术支撑还不够,这背后还需要行业标准、法律规范等配套的基础设施。只有不断加强网络安全关键技术研发,加快人工智能安全技术创新,才能提升网络安全产业综合竞争力。

搜狐财经《致知100人》对话朱琳

以下为搜狐财经《致知100人》与朱琳的对话:

《致知100人》:随着人工智能在社会各领域的全面开拓,目前人工智能技术处于什么阶段,在未来,人类应该如何与人工智能共处?

朱琳:人工智能发展至今不过六十多年的时间,共经历了三次不同的浪潮。人工智能在发展早期属于技术驱动,在发展中期属于数据驱动,近些年来人工智能发展火爆,主要是受场景驱动。

现阶段普遍定义的人工智能,都属于弱人工智能时期,AI在产业和科学价值上面还有非常长的路要走,目前还处于起步阶段,目前市场上我们所见到的人工智能,或者说能够帮助我们解决特定领域的一些问题的人工智能,在业内统称为弱人工智能。

弱人工智能时期最主要的一个特征是机器可以达到令人满意的实际解决问题的效果,通过对于数据和场景的运用,显著降本增效达到非常明确的计算结果。

而强人工智能就是能够执行“通用任务”(Generalized Mission)的人工智能:它能够进行想人类一样有的学习、推理和认知解决问题, 而且不是在特定领域中的问题。在未来人工智能将部分取代人类的工作,程式化的、重复性的技能将失去价值。

因此我们的工作必须具备足够的深度,让自己强大到不会轻易被机器撼动。比如天马行空的设计以及人类独有的情感表达能力等都很难会被机器所“学习”。人工智能需要我们以平常心去对待,以科学严谨的精神去探索,以敬畏之心去教导、去实现。

《致知100人》:如何应对AI可能对社会产生的负面影响?

朱琳:科技的进步激发了人的想象力、创造力,助力学科发展,推动社会进步。但从辩证的角度来看,科技的影响也必然分为正反两方面,可以“作恶”,也可“行善”。在科技全面赋能各领域的今天,引导科技向善已然成为全社会的期待。

微软-仪电人工智能创新院作为人工智能领域里的先行先试者,一直强调科技向善,人工智能要在社会上发挥社会责任价值,是以技术为导向,服务人类的工作和生活为最终目的。“向善”是科技的使命,更是科技缔造者的初衷。

应该说,科技向善是科技价值的最好体现,它改变了人们对美好生活的想象,它也正在赋予这个社会更多能量,给大多数人带去红利、便利。科技赋能,向善而行,必须不断推动科技创新,带动技术升级,提升科技含量,持续改善人们生活品质,促进社会效率和效益的提升。

《致知100人》:是否需要一些新的道德准则?道德准则是否可以内化在算法之中?

朱琳:如何利用技术去更好的服务我们的工作和生活,从算法的角度它有三个关键要素。第一,算法要可解释,任何一段所谓抽象的算法数学题,最终还是要应用在落地的实际场景中,对于人工智能领域的科学家和研究员来说,就是可解释,可被使用。

第二个要素,需要无限的接近人类真实的使用场景和环境。原来我们定义人工智能时希望机器能说、会听,然后会思考。但是我们往往忽略掉了这些都是人最基本的认知功能,所以人工智能的技术最终就是要无限的去接近人类。

第三个要素是尽可能的减少计算的成本。包括它的评价、收益问题。如果我们大规模的使用算力,去计算出一个可能不会对社会带来普遍共性的社会责任和价值的技术问题,会耗费很多不必要的资源。

回到AI伦理、科技向善等话题要要有可为、有可不为。如何在确保技术发展的同时真正为人服务,需要各方负起责任。政府除了要加快研究新兴技术领域的法律规则外,还要对新技术应用进行规范和引导,出台行业标准和配套监管机制。

企业当然也得对技术产品负责,比如在微软内部专门成立伦理道德委员会,严格审核每一款人工智能产品所有企业都应树立一个理念一一只有能对人、对社会产生正向价值的产品,才是“向善”的产品。如果在现有的业务模式下,没有为企业提高效率、节省成本。那么就不鼓励使用人工智能,更不能为了AI而AI。

《致知100人》:您对人工智能教育热怎么看?人工智能教育发展将走向何方?

朱琳:现在各领域对于高水平AI人才的需求也在不断扩大。“创新型、应用型、技能型”的复合型人才培养是当今时代发展趋势下的必要需求。

为了应对关键型人才短缺的状况我现在所在的公司微软-仪电人工智能创新院联合微软亚洲研究院,联合打造了 AIM 课程,瞄准人工智能战略落地最核心的“C 位”—AIManager(人工智能经理),从技术、管理和实践三个方面,以多元的授课方式,帮助AIManager 更好地实现业务与AI的融合,加速企业的数字化转型。

同时创新院先后开展人工智能普及班、人工智能赋能数字化经理班等,人工智能专业化技术培养等专项培训,成立至今已先后培育600余名高尖端AI人才;

另外在人工智能早期阶段的通识教育领域,2021年9月,创新院联合上海师范大学将在上海试行四所本科院校,展开AI通识教育选修课的推广试点。

青少年的AI教育市场现在比较垂直,年龄趋近于低龄化。一方面是中国家长过分的焦虑,在未来的职业规划和发展上,家长希望过早的进行这方面的定制化培养,希望孩子能够跟上时代发展的步伐。

但人工智能行业跟传统的专业化技能培训不同,首先技术发展迭代的速度非常快,另一方面AI的培训更加注重培养的是青少年思想意识、自信心、创新精神与实践能力。现在青少年朋友有的学python,有的学C++,对人工智能技术的理解和应用缺乏体系化和逻辑化的引导和学习。

所以在目前阶段,家长第一要给这个技术的成长和迭代多一点时间,第二要关注孩子的认知能力和逻辑推理能力的培养而非仅仅掌握一门开发工具。

搜狐财经《致知100人》对话朱琳

《致知100人》:微软-仪电人工智能创新院主要培养哪些人才?在新发展格局下,如何打造人工智能人才体系?

朱琳:中间管理层能否真正发挥作用,是企业数字化、智能化转型的关键。这就好比太极拳中强调的“腰如车轴,四肢如车轮,如腰不能作车轴,四肢不能转动”,中间管理层就是企业的“腰部”,起着承上启下的作用,任何转型、变革都取决于“腰部力量”是否得力。

然而,目前处于各企业中间层的管理者们虽然大多已拥有十几、二十年的行业工作经验,但此前涉及的AI相关知识较少,而且近年来科技的飞速发展也使得以往的技术体系产生了翻天覆地的变化,他们该如何获取AI知识和技能?

事实上,即便了解了机器学习、自然语言处理、计算机视觉等AI技术的原理和最新的研究进展,对中间管理层/AI Manager来说也并不能解决企业应用中的根本问题。

从AI落地角度来看,AI的话语体系与业务体系并不相通。AI Manager需要能够理解AI可以或不能解决哪些问题,需要能够判断一线AI技术人员的反馈是否对项目推进有意义,需要能够结合技术调研结果与业务诉求,制定可执行的AI策略,这些不是学习某一个机器学习模型或是某个编程语言就能够达成的,而是需要对AI有一个系统的认知,并能灵活运用。

除了 AIM 课程,创新院还提供了针对企业引领者(商业和技术领导人)、实践者(产品经理、项目经理、实战工程师、算法工程师)到观望者(初级业务人员和技术人员)的多层次课程。

《致知100人》:上海仪电集团与微软亚洲研究院合作的研究方向和重点,以及应用场景,请举例。

朱琳:创新院人工智能主要研究方向分为三个角度:

第一是知识图谱。知识图谱是行业洞察量化的基础。在面对数据多样、复杂,孤岛化,且单一数据价值不高的应用场景时,利用关系深度搜索、自动关联递推业务流程规则和经验,从而量化企业隐形资产,挖掘企业核心业务转型需求,保持业务稳定、持续增长。融合知识图谱和深度学习,已然成为人工智能进一步发展的重要举措之一。

知识图谱应用领域日趋广泛,尤其是在金融、教育等领域应用中发挥了极其重要的作用。传统企业如何把核心业务竞争能力与隐形数字资产去加以量化、复制,是可以通过知识图谱的技术去解决;

第二是隐私计算。数字经济时代,数据业已成为企业和国家具有战略价值的核心资产,数据共享和流通将成为刚性业务需求,但隐私保护和数据高效流动之间的矛盾日益凸显。隐私计算,正是为解决这一矛盾而诞生的,通过技术手段实现在保护数据隐私的前提下,完成对数据的安全处理。隐私计算可以有效打破数据在行业、企业间的流动壁垒,未来有望开启数字经济时代数据利用新商业模式。

第三是算法安全。因为在AI伦理相关,包括在人工智能落地的应用场景当中,算法是不是具有公平性,能否根据不同的应用场景、数据的维度去进行更好的、更透明的平衡和保护,这是算法安全里必须要解决的问题。

比如众所周知的算法杀熟,同样的一段路径,有的人打车只需要20块钱,有的人就要40多块钱。这是因为算法过度的进行了技术层面的干预,对于频繁使用同一软件去进行约车的行为,做了一系列行为的标注,这也使得我们的用户可能在间接的过程当中被算法“杀熟”。

算法的公平性取决于它所录入和训练的数据是否带有偏见。比如一些关键词,例如敏感、易猜忌、情绪起伏波动大,这些数据在采集收集的过程当中,它的指向往往偏向针对女性。还有一些关键词,例如勇敢、果断、充满责任心,可能它就会带有一定的指向和标签大概率会被定义为男性所具备的品质。从算法的角度,技术本身不应该带有差异和偏见,但是因为数据获取的角度和维度不一样,在使用过程中就会导致算法缺乏公平性。所以我们希望算法安全能在未来通过关键共性技术的研究,赋能到各行各业,让他们在使用和研发自己的算法过程中,考虑到数据的偏见性、算法的公平性、用户隐私保护等问题。

在技术转化方面,创新院是以具备共性技术、行业认知和人工智能工程化的一流解决方案为核心能力载体,通过场景牵引、资源配置和创新实践,在城市治理、智慧校园、物流航运、金融服务、智能制造等领域打造理念先进、模式创新、效益突出、具有标杆引领效应的人工智能项目。

比如与上海交通大学安泰经济与管理学院签署科研合作协议,共同构建产学研长期合作关系在人工智能商业课程开发、人才联合培养和AI科研项目等方面进一步合作。与上海海洋大学共建AI协同创新中心,围绕学生成才、教学管理、智慧校园合作开展前沿学术研究,用人工智能技术赋能高校智慧教育全景治理与决策。

搜狐财经《致知100人》对话朱琳

《致知100人》:房地产物业在实现智能化的同时,如何保护社区用户的隐私?

朱琳:在房地产物业这个领域里,用户的数据分为几个维度。首先就是在固定区域内的路径、行动轨迹。此外还有更具化的比如跟设备之间的交互,用户是否出现在特定区域内,用户是否在这个区域内进行了一些轨迹的发生,甚至跟设备之间的交互。

传统的房地产物业行业里,最简单的获取用户路径轨迹的工具就是摄像头,通过摄像头的采集,可以做观察,但是不能对用户的行动甚至他下一步的行动去进行预判。

比如用户乘坐电梯,只能知道用户在几层进、几层出,如果电梯在行驶过程中发生突发情况,那么在远程交互的数据管理平台上,只能通过摄像头看到发生了什么问题,没有办法直接发出指令去操控甚至保护用户的安全。

所以现在市面上技术角度多半停留在影像数据的实时监控层面,聚焦的是“远程观察”。实际上利用人工智能+物联网技术,不单单能够追踪到用户的动作,还能通过用户行为去进行下一步的行动预判、反向控制管理设备运行或直接发出预警信号,联系就近响应或支持资源。

《致知100人》:你理解和追求的智慧城市是什么样的?

朱琳:智慧城市首先是一个综合生命体,从技术的角度建设智慧城市,第一阶段是推进数字化,使我们生活的世界可以通过数字表述出来;

第二阶段是通过互联网将数字化的城市部件传输连接起来,实现网络化,如电子商务、电子政务等;

第三阶段是在网络传输的基础上实现局部智能反应与调控,即智能化阶段,如智能收费、智能交通、智能工厂等;

第四阶段则是万物互联阶段,城市各部分功能在人类智慧的驱使下优化运行,实现城市智慧化,基本建成智慧城市。

这四个阶段不是截然分开的,后一阶段应以前一阶段为基础。智慧城市的最终阶段,可以真正享受到更加智慧化和人性化的城市综合服务。

《致知100人》:碳中和下,新能源车、自动驾驶等领域投资火爆,很多企业投入这个智慧交通的领域,你认为智慧交通需要解决最核心的技术是什么?应该分几个阶段推进?

朱琳:对于我们民众而言,自动驾驶日渐密集的宣传似乎在宣告着,那种只在大片里才出现的镜头很快就将在现实生活中普及,而事实上,自动驾驶离真正上路和推广还很远,要想实现自动驾驶,除了单车的智能外,还需要车与路的协同,对道路基础设施依存度很高,需要多个行业的配合,还需要大量的数据训练。

目前,路测示范区被认为有助于帮助车企和自动驾驶公司补齐短板,而一个示范园区除了政府之外,还需要车企、通信运营商、自动驾驶零部件供应商等多方的参与。另外从能源的使用和消耗的角度,新能源汽车,比如纯电动汽车。我个人认为只是相对环保,相对于传统柴油发动机、汽油发动机为动力的汽车而言,新能源汽车是环保的,主要体现在它的排放污染物排放量的下降、噪音产生量上。

但是,往深一层次想,纯电动汽车或者说双模汽车所用的驱动源——电,是通过火力发电、水力发电、光伏发电、风力发电产生出来的,那么火力发电和水力发电那就是污染的产生源之一。

从资本的角度,很多企业大举投资建设新能源汽车,但从城市综合体的角度来看,虽然减少了一部分的传统柴油车的能耗使用,但为了新能源汽车增加了更多的充电桩,还要考虑更多的绿电使用和电力调度问题,另外就是新能源汽车电池的回收问题,这也是未来应该去思考和布局的问题。

《致知100人》:如何看待目前的跨界造车热潮?

朱琳:辩证的来看这个问题,一方面科技创新是提高社会生产力和综合国力的战略支撑,是国家发展的核心。从跨界造车的热潮来看跨界共创是未来发展的必然趋势之一。跨界共创可以结合企业自身最佳实践和know How降低转型、创新风险和成本。通过精细化分工可以提升研发效率。另外能创造颠覆性行业和新商业模式的往往都是其他领域的“门外汉”,跨界共创可以创造新的供给和新商业需求,综合提高市场竞争力。

另一方面每一个企业都应该有自己核心的竞争能力,这是企业的长板,也能最佳地从长效机制的角度上发挥企业在社会上的责任和价值。但是如果每一个人都是因为概念热门而去学习,每一个企业都是因为资本追逐去关注,从国家战略、社会责任和文明进步可能会丧失科技“本来”的使命。

国家有很多不被人关注的基础研发领域,包括一些卡脖子的技术攻坚项目。有很多的科学家们始终在默默无闻的付出。我们希望有越来越多的人尤其是年轻人能够关注那些不怎么热门,但是未来会对社会、对环境、对人类都有共性责任与价值的领域。

希望大家能够更长远、更全局的考虑科技发展对于未来工作、生活,甚至国家战略上的意义。作为一名人工智能的技术工作者,我始终认为科技发展是第一生产力,科技创新始终要为人类造福,科技越是进步,人类越要永存敬畏之心。

【《致知100人》是由搜狐财经、搜狐智库打造的高端财经人物访谈。以智慧者为师,与梦想家同行。访谈、节目合作事宜,请联系微信demin0214】

------分隔线----------------------------