人工智能发展到今天,对社会生活产生的影响日益深刻。同时,人工智能的不可解释性、算法漏洞、数据安全和隐私保护等问题,也在对法律、伦理、社会等方面提出新挑战,在此背景下,“可信AI”的理念逐渐成为学界、业界的共识。
如何构建一个可信AI生态系统,令人工智能快速发展的同时更好服务人类?
在不久前召开的2021全球人工智能技术大会可信AI专题论坛上,同盾科技合伙人、人工智能研究院院长、知识联邦产学研联盟(AKF)理事长李晓林教授给出了他的答案。
李晓林教授表示,以知识联邦理论框架为基础,通过开放标准、开放协议、开放互联、开放联盟的方式,构建一个可信AI生态系统,是发展新一代人工智能的必由之路。
能够通过知识联邦产学研联盟(AKF)聚集产业各部门,共同构建可信AI生态,为中国下一代人工智能发展做出贡献,他倍感荣幸。
“新型生产关系”
论坛现场,李晓林教授做了题为《知识联邦:打造可信AI生态平台》的主题演讲。演讲中,他首先回顾了人工智能发展至今的重要历史节点。
他认为,人工智能发展至今,每隔30年左右会产生一次质变。上世纪50年代人工智能开始萌芽,如同一道微弱的光照亮新世界的大门;80年代,专家系统出现,人工智能迈入AI 1.0时代;如今我们身处的,是以深度学习为代表,以数据驱动为核心思路的AI 2.0时代。
2040年前后,人类将迎来AI 3.0时代。它将超越如今的深度学习,能够学习、记忆、演化和利用更多知识,做出更加复杂的智能决策。
李晓林教授指出,基于这一历史趋势,知识将超越数据、算力和算法,成为下一代人工智能的核心。为了顺应这一潮流,更好地运用知识,同盾推出了知识联邦理论框架,并发起成立知识联邦产学研联盟(AKF)。
人工智能行业发展至今,正面临数据安全与快速发展的冲突困境,这也使知识联邦的诞生成为必然。
近年来,全社会的数据安全意识显著提高,各领域隐私保护与数据安全法规逐步完善。而在宏观层面,国家已经将数据作为新型生产要素,上升到战略层面。作为新型生产要素,数据的价值必须通过流通、共享和交易才得以体现。如何在保护隐私与数据安全的情况下,将数据价值最大化,也成为各界思考的重点。
李晓林教授认为,要解决这些问题与挑战,需要构建一个新型的生产关系,将新型生产要素数据,同新型生产力人工智能,二者有机结合起来,把生产力的价值最大化,进一步推进下一代人工智能的生产力。“这是新一代人工智能发展的关键,也是实现第四次工业革命的核心引擎。”
同盾科技推出的知识联邦理论体系,恰恰可以解决这一困境,它将大数据、密码学和人工智能等技术融合在一起,满足数据不可见,并通过安全的数据交换协议,以联邦的方式来利用数据和知识,达到知识共创可共享。
李晓林教授指出,传统联合数据建模方式中,样本数据对齐、数据集中、数据建模、模型调用中的每个环节,都存在数据泄露的风险。知识联邦可以实现安全样本对齐,数据不出本地联合建模,多方安全计算,全方位保护数据隐私,达到开放共享的目的。
他表示,知识联邦拥有联邦计算、联邦学习、联邦预测、联邦推理五大功能,可以通过信息层、模型层、认知层、知识层四大层次,不断整合提炼信息到知识,然后实现知识共享。
李晓林教授认为,知识联邦或许可以成为AI 3.0时代,构建新型生产关系的基石。
构建可信AI生态平台
李晓林教授表示,知识联邦关注的是在安全可信的前提下,数据到知识全生命周期的创造、管理和使用及监管,设计目标是面向生产环境的完整知识联邦生态系统。
同盾希望以知识联邦为基础,构建一个开放的知识联邦生态。
为推动知识联邦落地,同盾自主研发了工业级应用产品“智邦平台”。智邦平台覆盖数据全生命周期,包括从数据预处理、项目管理、算法分析、安全保护、模型发布、贡献评估等各个环节。
过去一年,智邦平台已经在金融、保险、政务和医疗等多个领域落地,尤其在金融风控、反欺诈、精准营销等场景落地,积累了丰富的实战经验。
李晓林教授指出:“知识联邦生态的构建中,数据的安全交换是整个联邦生态的核心。”为保证数据安全,实现联邦生态的顺利建设和良性发展,业界亟需一套统一的数据安全交换标准,支持各种联邦应用落地。
为此,同盾通过知识联邦产学研联盟,发布了联邦数据交换的协议(FLEX),协议包含联邦共享,联邦预处理,联邦计算,联邦训练,联邦预测5大类,17个应用协议。
李晓林教授将FLEX.USE比喻为可信AI时代的HTTP.GET,可以实现合规安全使用数据而不改变数据的所有权。通过FLEX协议,可以实现不同框架,不同平台之间的互联互通。这是全球首个可以跨平台、跨框架,打破数据孤岛和框架孤岛的协议。
李晓林教授表示,在知识联邦理论框架和智邦平台发力下,知识联邦产品的纵深和场景可以进一步扩展,不仅可以应用在智能信贷风控、智能反欺诈、智能营销等方面,还可以应用在医疗、保险、政企、智慧城市等领域。
可信AI开放操作系统助力生态发展
为推动可信AI生态系统更好发展,同盾进一步提出了“InceptionAI天启可信AI开放操作系统”。
作为一套可视化、易使用的业务操作系统,天启系统不仅实现了用户和各种传统硬件资源之间的交互,更管理了知识联邦中各种任务联盟进程和安全合规的虚拟大数据。天启操作系统中,数据安全和合规是第一级的最基础功能。
李晓林教授表示,天启操作系统除了可以管理算力资源、网络资源,还可以监控运行状态,而它超越传统操作系统的地方,在于提出了以用户为中心的开放系统概念,包括:开放的联邦市场、开放的资源边界、开放的虚拟大数据边界以及开放的监管中心。
联邦市场类似App Store,提供数据商店、模型商店和应用商店等开放市场。这些开放市场极大地方便了数据生产要素的充分流通、使用、定价;也极大地方便中小企业利用天启的系统功能,快速开发丰富、有特色的服务和应用,快速触达很多客户,可以类比移动App的广泛普及。
此外,天启内嵌监管中心,提供一系列基础工具和可视化应用,为监管科技的发展与落地提供支撑。第三方中小企业也可以开发天启App,提供各个领域的专有监管工具,满足各个行业各个层次的监管需求。
李晓林教授表示,“高度开放的天启操作系统,希望通过开放标准、开放协议、开放互联、开放联盟打造一个开放社区,为中国可信AI生态发展做出贡献。”
同盾深知,可信AI是一个庞大的系统,单一机构能起到的力量终归有限。为此,同盾科技将一系列成果与行业同仁分享。
在开放标准层面,同盾科技参与制定多项与联邦学习、隐私计算相关的标准;开放协议层面,同盾科技制定联邦数据安全交换协议FLEX (Federated Learning EXchange);开放互联层面,同盾提出了“开放联邦系统互联参考模型”,即FIRM模型(open Federated system Interconnection/Reference Model)。
而在开放联盟层面,2020年,同盾科技联合产业界、学界等多家单位,联合发起了知识联邦产学研联盟(AKF),共同打造下一代可信AI。
演讲最后,李晓林教授表示,可信AI生态的落地,需要各界的共同努力,他希望更多的机构能够参与到联盟中来,为中国下一代人工智能突破做出贡献。
“通过连接,联防联控,通过智能,通过完全开放的协议,开放的互联和可信AI开放操作系统,我们能够打造可信AI生态平台更美好的明天”,李晓林教授说。