来源：VentureBeat
编译：MetaverseHu
人工智能的发展速度不断加快，以前从未想到过的能力现在已成为现实。尤其是 AI 代理——或者可以说是虚拟同事，在未来，他们将与我们一起工作，甚至最终能够独立执行任务。
事实上，Gartner 预测，到 2028 年，至少 15% 的日常工作决策将通过人工智能代理自主完成（这一比例在 2024 年尚为 0%）。
为了进一步强调 AI 技术的潜力，该公司将其列为 2025 年的顶级战略技术趋势。Gartner 杰出副总裁分析师 Gene Alvarez 表示：「这种情况发生得非常非常快。」
「没有人能在晚上睡前完成所有工作，企业也需要花费大量时间来监控事物。创建人工智能代理不仅可以代替部分工作、协助企业检测等，还可以提高工作效率、节省时间。」
Gartner 对未来战略技术还有哪些预测？以下是该公司在 Gartner IT Symposium/Xpo2024 会议上探讨的一些趋势。
01.AI 代理让人「爱恨交织」
Alvarez 解释道：「人工智能代理的初级作用是解决耗费人类时间和精力的枯燥任务。下一个层次是能够自主监控和管理系统的人工智能代理。」
「人工智能代理具有规划、感知和采取行动的能力，可以进行分析、修复并报告所发生的事情，而不只是作为监视系统而存在。」
「在更复杂的场景中，代理有朝一日可以帮助提升员工的技能。例如，原本需要新员工跟随人类同事学习的情况，现在可以由 AI 同事进行指导。」
Alvarez 承认，这一切既令人兴奋又令人担忧，人们对失业的恐惧依然存在。
「但是，如果人工智能代理能够真正教会我一套新的技能，我就可以从一份即将失去的工作转向一份需要的工作。」
02.建立对人工智能的信任
Alvarez 接着指出了下一个主要趋势：「现在有一支全新的劳动力队伍，我们该如何管理他们？」
基于管理话题，将会催生一系列人工智能治理平台，使企业能够管理其人工智能系统的法律、道德和运营绩效。
新工具将创建、管理和执行政策，以确保人工智能的透明度。这些平台也可以检查人工智能助理是否会存在偏见，并提供建立模型的信息。
Alvarez 预计，这些工具最终将成为人工智能创建过程中的一部分，以确保从一开始就在模型中植入道德和管理。
Alvarez 表示：「我们可以通过透明度创造信任，如果人们对人工智能失去了信任，就不会再使用它。」
03.「不只是一种计算模型」
Alvarez 指出，有七种计算模式现在正在被使用，分别是：CPU、GPU、边缘计算、特定应用集成电路、神经形态系统、经典量子计算和光学计算。
Alvarez 表示：「我们一直有一种不断适应变化的心态，但未来的混合计算模式将结合不同的计算、存储和网络机制来运行。协调软件将根据任务和最适合任务的方法，将计算从一种转移到另一种。」
「与此同时，新的、更特殊的计算技术将大大降低能耗。这一点非常重要，因为降低消耗和碳足迹的压力越来越大。但随之而来的，人工智能对 IT 计算能力的需求也在以惊人的速度增长。」
「循序渐进的改进是不够的，企业需要长期的解决方案。企业也需要新技术，例如绿色云提供商或更高效的新算法，有可能将效率提高数千倍，甚至上万或数十万倍。」
04.积极应对信息安全问题
人工智能让一些「威胁者」可以用更快、更容易的方式传播虚假信息。他们可以推送深度伪造的信息、制作网络钓鱼电子邮件、利用协作工具中的漏洞、使用恶意软件窃听、发起账户攻击等等。
因此，应对这些虚假信息、保护信息安全变得至关重要，要积极评估真实性、跟踪有害信息的传播并且防止假冒信息的出现。
其要素包括品牌冒充扫描、第三方内容评估、索赔和身份验证、网络钓鱼缓解、账户接管预防、社交 / 大众媒体和暗网监控以及情绪操纵。
Alvarez 解释，深度伪造检测也将能够识别合成媒体，而水印工具将有助于确保用户与真人互动。
据 Gartner 预测，到 2028 年，半数企业将开始采用专为虚假信息安全设计的产品、服务或功能，而目前这一比例还不到 5%。
Alvarez 表示：「虚假信息安全不会只是一种单一的技术，它将是一系列技术的集合。」
05.为「后量子时代」做好安全准备
目前，网络使用的是公钥加密技术，即非对称加密技术，它可以确保两点通信的安全。
Alvarez 解释说，「这种加密很难被破解，因为破解时间太长。然而，量子技术正在迅速发展，它将在某一点上发挥作用，因为其拥有实时破解的数学能力。」
Gartner 预测，到 2029 年，量子计算的进步将使大多数传统的非对称加密技术变得不安全。
Alvarez 补充道：「各组织现在就必须为后量子加密技术做好准备，以确保他们的数据能够抵御解密。转换加密方法并不容易，而且这『不是一个简单的补丁』。」
国家标准与技术研究院（NIST）的既定标准是一个很好的开始。Alvarez 指出，该机构将于 2025 年春季发布第二版后量子加密指南。
「当所有的锁都坏了，你该怎么办？你需要新锁。我们要确保在量子技术成为现实之前更新我们的安全性。」
06.人工智能提高我们的认知力
Gartner 将目光进一步投向科幻领域，预计双向脑机接口（BBMI）的使用将会增加，这种接口可以读取和解码大脑活动，提高人类的认知能力。
Alvarez 解释说，这些设备可以直接集成到我们的大脑中，也可以通过眼镜或头带等可穿戴设备实现。
Gartner 预计，到 2030 年，将有 30% 的知识工作者使用 BBMI 等技术，以保持在 AI 驱动的工作环境中的竞争力（2024 年这一比例还不到 1%）。
Alvarez 表示：「我看到了人类技能提升和下一代营销的潜力，例如，品牌将能够了解消费者的想法和感受，从而判断消费者的情绪。」
Alvarez 最终将其与 2011 年的电影《无极限》以及 AppleTV 的网剧《人生切割术》进行了比较。
Alvarez 表示：「公平地说，这两部作品对这项技术的描绘都不尽然是积极的，但它通过进入人类大脑的方式，增强了人们的认知能力。」
