黑箱问题:为什么人工智能需要证明,而不是承诺
当人们想到人工智能时,他们会想到聊天机器人和大型语言模型。然而,人们很容易忽视人工智能正日益与社会关键领域紧密结合。
这些系统不再只是推荐观看或购买什么;它们还可以诊断疾病、批准贷款、检测欺诈和瞄准威胁。
随着人工智能越来越深入我们的日常生活,我们需要确保它的行为符合我们的最佳利益。我们需要确保它的输出是可证明的。
大多数人工智能系统都在黑匣子中运行,我们通常无法知道它们如何做出决策或它们是否按照预期行事。
其工作方式缺乏透明度,导致事后几乎不可能对人工智能决策进行审计或质疑。
对于某些应用来说,这已经足够好了。但在医疗保健、金融和执法等高风险领域,这种不透明性会带来严重风险。
人工智能模型可能会在不知不觉中编码偏见、操纵结果,或做出违反法律或道德规范的行为。如果没有可验证的线索,用户只能猜测决策是否公平、有效,甚至是否安全。
当人工智能能力继续呈指数级增长时,这些担忧就变得至关重要。
业界普遍认为,开发人工智能超级系统(ASI)是不可避免的。
迟早,我们将拥有在所有领域超越人类智能的人工智能,从科学推理到战略规划,再到创造力,甚至情商。
质疑快速发展
法学硕士在泛化能力和任务自主性方面已经显示出快速的进步。
如果超级智能系统的行为方式是人类无法预测或理解的,我们如何确保它符合我们的价值观?如果它对命令的理解不同,或者追求目标却带来了意想不到的后果,该怎么办?如果它失控了,又该怎么办?
甚至人工智能的倡导者也意识到这种事情可能威胁人类的情景。
深度学习的先驱杰弗里·辛顿警告能够进行文明级别的网络攻击或大规模操纵的人工智能系统。生物安全专家担心,人工智能增强实验室可能会产生病原体超出人类的控制范围。
Anduril 创始人 Palmer Luckey 声称其 Lattice AI 系统可以干扰、黑客攻击或欺骗几秒钟内就能击落军事目标,使自主战争成为迫在眉睫的现实。面对如此多的可能情况,我们如何确保 ASI 不会将我们全部消灭?
透明人工智能的必要性
所有这些问题的简短答案是可验证性。
依赖不透明模型的承诺已不再适用于将其整合到关键基础设施中,更不用说在ASI的规模上。我们需要保证。我们需要证据。
政策和研究界越来越一致地认为,人工智能需要技术透明措施。
监管讨论中经常提到人工智能决策的审计追踪。例如,美国国家标准与技术研究院 和 欧盟人工智能法案强调了人工智能系统“可追踪”和“可理解”的重要性。
幸运的是,人工智能的研发并非凭空而来。在其他领域也取得了重要突破,例如高级密码学,这些突破可以应用于人工智能,并确保我们能够控制当今的系统——以及最终的ASI系统——并与人类利益保持一致。
其中目前最相关的是零知识证明。ZKP 提供了一种实现可追溯性的新方法,可立即应用于 AI 系统。
事实上,零知识证明 (ZKP) 可以将这种可追溯性从头嵌入到 AI 模型中。它不仅可以记录 AI 的行为(这些信息可能被篡改),还能生成不可篡改的证据。具体来说,使用 zkML 库,我们可以结合零知识证明和机器学习来验证这些模型上产生的所有计算。
具体来说,我们可以使用 zkML 库来验证 AI 模型是否被正确使用、是否运行了预期的计算以及其输出是否遵循指定的逻辑——所有这些都无需暴露内部模型权重或敏感数据。
黑匣子
这有效地将人工智能从黑匣子中解放出来,让我们确切地了解它目前的状态以及它是如何实现这一目标的。更重要的是,它让人类能够随时掌握最新动态。
AI发展需要开放、去中心化、可验证,zkML需要实现这一点。
为了在未来掌控人工智能,我们必须立即行动。我们需要确保人工智能在实现自主之前能够按照我们的预期运行,从而从第一天起就保护人类的利益。
然而,ZkML 不仅仅是为了阻止恶意 ASI。
短期内,我们要确保我们可以信任人工智能来自动化贷款、诊断和警务等敏感流程,因为我们有证据证明它的运作透明且公平。
如果大规模使用,ZkML 库可以让我们有理由信任 AI。
尽管拥有更强大的模型可能会有所帮助,但人工智能开发的下一步是确保它们正确地学习和发展。
有效且可扩展的 zkML 的广泛使用将很快成为人工智能竞赛和最终创建 ASI 的关键组成部分。
通往超级人工智能的道路不能靠猜测铺就。随着人工智能系统功能日益强大,并逐渐融入关键领域,证明它们能做什么以及如何做到至关重要。
可验证性必须从研究概念转化为设计原则。借助 zkML 这样的工具,我们现在有了一条可行的途径,将透明度、安全性和可追溯性嵌入到人工智能的基础中。
问题不再是我们是否能够证明人工智能的作用,而是我们是否选择这样做。
编辑塞巴斯蒂安·辛克莱
(责任编辑:私募资讯)
- 10月31日摩根慧见两年持有期混合净值下跌0.95%,近1个月累计下跌2.16%
- 10月31日嘉实价值成长混合净值下跌0.40%,近1个月累计下跌4.71%
- 10月31日长城国企优选混合发起式A净值增长0.60%,近3个月累计上涨9.32%
- 10月31日汇丰晋信中小盘股票净值增长0.47%,今年来累计上涨19.65%
- 10月31日中欧成长优选混合E净值增长0.73%,近3个月累计上涨13.79%
- 10月31日浦银安盛新兴产业混合C净值下跌0.21%,近1个月累计下跌0.05%
- 10月31日富国致航量化选股股票A净值增长0.79%,近3个月累计上涨16.61%
- 10月31日长盛养老健康混合C净值下跌0.42%,近1个月累计下跌4.55%
-
山海坞• WooChiangmai|一场真正「有生活」的科技与文化的 pop-up 盛会
2.目标延伸法当你通过第一种方法,基本上找到了几个合适的网站之后,大家可以使用爱站工具里面的友情链接检测,当然不是检测你的网站,而是检测那些已经和你交换链接的网站,你要知道,既然他合适和你交换链接,那...[详细]
-
一场很匆忙的315晚会...... 春风又把3·15这股正能量给吹来了...[详细]
-
梳理以太坊基金会公开支出:已发放1.7亿美元项目资助成预算“大头”
所以,在未来,手游必将往着精品化和重度化方向进化发展,打造出现象级的品牌来吸引用户关注,是手游厂商的最好的出路。...[详细]
-
meme币交易所下载官方app下载 meme币最新版下载ios
汽车分时租赁的本质是资产管理,如何通过较高的运营效率来获得更大收入,以及如何降低车辆获取成本,是其运营中的关键问题。...[详细]
-
濮阳网站建设,是濮阳本地专业制作网站公司,濮阳网站建设公司,专注于濮阳网站建设,濮阳网站制作,濮阳网站推广,濮阳网站设计,濮阳网站优化。...[详细]
-
10月31日中信建投消费升级混合发起式A净值下跌0.15%,今年来累计下跌23.11%
1.了解行业 做网站运营前,你必须要了解整个行业,掌握行业的发展动向,目标要跟着行业的发展去走,搞懂整个行业知识,这样制定的目标和计划才能更清晰更准确。...[详细]
-
接下来的5周,该公司股票成交缩量,累计成交金额1.68亿,但交易价格依然维持在28元-31.5元之间。...[详细]
-
10月31日华安远见慧选混合发起式A1净值下跌0.64%,近1个月累计下跌4.53%
在数据结果上我们看到:知乎平台上面活跃着的是高知人群,高收入高学历是社会这部分人的显著认知标签。...[详细]
-
DefaiCon 将成为 2025 年伊斯坦布尔区块链周的焦点
网站内容在网站运营过程中的地位变得越来越重要。...[详细]
-
10月31日财通新兴蓝筹混合C净值增长0.62%,近3个月累计上涨28.97%
首先我们来看一下,站内广告分析能为我们分析哪些数据。...[详细]