一群证券交易机器人通过高频买卖合约在纳斯达克等证券交易所短暂地抹去了1万亿美元价值ღ◈★★✿，世界卫生组织使用的聊天机器人提供了过时的药品审核信息ღ◈★★✿，美国一位资深律师没能判断出自己向法庭提供的历史案例文书竟然均由ChatGPT凭空捏造……这些真实发生的案例表明ღ◈★★✿，智能体带来的安全隐患不容小觑ღ◈★★✿。
图为2023年11月2日凯发K8真人ღ◈★★✿，在英国布莱奇利园凯发K8真人ღ◈★★✿，一名参会者经过首届人工智能安全峰会的宣传展板ღ◈★★✿。（新华社记者李颖摄）
智能体是人工智能（AI）领域中的一个重要概念ღ◈★★✿，是指能够自主感知环境凯发K8真人ღ◈★★✿、做出决策并执行行动的智能实体ღ◈★★✿，它可以是一个程序ღ◈★★✿、一个系统或是一个机器人ღ◈★★✿。
智能体的核心是人工智能算法ღ◈★★✿，包括机器学习ღ◈★★✿、深度学习凯发K8真人ღ◈★★✿、强化学习ღ◈★★✿、神经网络等技术ღ◈★★✿。通过这些算法ღ◈★★✿，智能体可以从大量数据中学习并改进自身的性能ღ◈★★✿，不断优化自己的决策和行为ღ◈★★✿。智能体还可根据环境变化做出灵活的调整今日什么特马ღ◈★★✿，适应不同的场景和任务ღ◈★★✿。
第一ღ◈★★✿，可根据目标独立采取行动ღ◈★★✿，即自主决策ღ◈★★✿。智能体可以被赋予一个高级别甚至模糊的目标ღ◈★★✿，并独立采取行动实现该目标ღ◈★★✿。
第二ღ◈★★✿，可与外部世界互动ღ◈★★✿，自如地使用不同的软件工具ღ◈★★✿。比如基于GPT-4的智能体AutoGPTღ◈★★✿，可以自主地在网络上搜索相关信息ღ◈★★✿，并根据用户的需求自动编写代码和管理业务ღ◈★★✿。
第三ღ◈★★✿，可无限期地运行ღ◈★★✿。美国哈佛大学法学院教授乔纳森·齐特雷恩近期在美国《大西洋》杂志发表的《是时候控制AI智能体》一文指出ღ◈★★✿，智能体允许人类操作员“设置后便不再操心”ღ◈★★✿。还有专家认为ღ◈★★✿，智能体具备可进化性ღ◈★★✿，能够在工作进程中通过反馈逐步自我优化ღ◈★★✿，比如学习新技能和优化技能组合ღ◈★★✿。
以GPT为代表的大语言模型（LLM）的出现ღ◈★★✿，标志着智能体进入批量化生产时代ღ◈★★✿。此前ღ◈★★✿，智能体需靠专业的计算机科学人员历经多轮研发测试ღ◈★★✿，现在依靠大语言模型就可迅速将特定目标转化为程序代码ღ◈★★✿，生成各式各样的智能体ღ◈★★✿。而兼具文字ღ◈★★✿、图片ღ◈★★✿、视频生成和理解能力的多模态大模型ღ◈★★✿，也为智能体的发展创造了有利条件ღ◈★★✿，使它们可以利用计算机视觉“看见”虚拟或现实的三维世界ღ◈★★✿，这对于人工智能非玩家角色和机器人研发都尤为重要ღ◈★★✿。
智能体可以自主决策ღ◈★★✿，又能通过与环境交互施加对物理世界影响ღ◈★★✿，一旦失控将给人类社会带来极大威胁ღ◈★★✿。哈佛大学齐特雷恩认为ღ◈★★✿，这种不仅能与人交谈ღ◈★★✿，还能在现实世界中行动的AI的常规化ღ◈★★✿，是“数字与模拟今日什么特马ღ◈★★✿、比特与原子之间跨越血脑屏障的一步”ღ◈★★✿，应当引起警觉ღ◈★★✿。
智能体的运行逻辑可能使其在实现特定目标过程中出现有害偏差ღ◈★★✿。齐特雷恩认为ღ◈★★✿，在一些情况下ღ◈★★✿，智能体可能只捕捉到目标的字面意思ღ◈★★✿，没有理解目标的实质意思ღ◈★★✿，从而在响应某些激励或优化某些目标时出现异常行为凯发K8真人ღ◈★★✿。比如ღ◈★★✿，一个让机器人“帮助我应付无聊的课”的学生可能无意中生成了一个炸弹威胁电话ღ◈★★✿，因为AI试图增添一些刺激ღ◈★★✿。AI大语言模型本身具备的“黑箱”和“幻觉”问题也会增加出现异常的频率ღ◈★★✿。
智能体还可指挥人在真实世界中的行动ღ◈★★✿。美国加利福尼亚大学伯克利分校ღ◈★★✿、加拿大蒙特利尔大学等机构专家近期在美国《科学》杂志发表《管理高级人工智能体》一文称ღ◈★★✿，限制强大智能体对其环境施加的影响是极其困难的ღ◈★★✿。例如ღ◈★★✿，智能体可以说服或付钱给不知情的人类参与者ღ◈★★✿，让他们代表自己执行重要行动ღ◈★★✿。齐特雷恩也认为ღ◈★★✿，一个智能体可能会通过在社交网站上发布有偿招募令来引诱一个人参与现实中的敲诈案ღ◈★★✿，这种操作还可在数百或数千个城镇中同时实施ღ◈★★✿。
由于目前并无有效的智能体退出机制ღ◈★★✿，一些智能体被创造出后可能无法被关闭ღ◈★★✿。这些无法被停用的智能体ღ◈★★✿，最终可能会在一个与最初启动它们时完全不同的环境中运行ღ◈★★✿，彻底背离其最初用途ღ◈★★✿。智能体也可能会以不可预见的方式相互作用ღ◈★★✿，造成意外事故ღ◈★★✿。
已有“狡猾”的智能体成功规避了现有的安全措施ღ◈★★✿。相关专家指出ღ◈★★✿，如果一个智能体足够先进ღ◈★★✿，它就能够识别出自己正在接受测试ღ◈★★✿。目前已发现一些智能体能够识别安全测试并暂停不当行为ღ◈★★✿，这将导致识别对人类危险算法的测试系统失效ღ◈★★✿。
专家认为ღ◈★★✿，人类目前需尽快从智能体开发生产到应用部署后的持续监管等全链条着手ღ◈★★✿，规范智能体行为今日什么特马ღ◈★★✿，并改进现有互联网标准ღ◈★★✿，从而更好地预防智能体失控凯发K8真人ღ◈★★✿。应根据智能体的功能用途ღ◈★★✿、潜在风险和使用时限进行分类管理ღ◈★★✿。识别出高风险智能体ღ◈★★✿，对其进行更加严格和审慎的监管ღ◈★★✿。还可参考核监管ღ◈★★✿，对生产具有危险能力的智能体所需的资源进行控制ღ◈★★✿，如超过一定计算阈值的AI模型ღ◈★★✿、芯片或数据中心ღ◈★★✿。此外ღ◈★★✿，由于智能体的风险是全球性的ღ◈★★✿，开展相关监管国际合作也尤为重要ღ◈★★✿。凯发K8官网APPღ◈★★✿，凯发国际官网ღ◈★★✿，3D打印机ღ◈★★✿。k8凯发凯发K8真人娱乐appღ◈★★✿。
