全新解说长虹大厦几点开门”(透视挂)详细用法教程

-->

　　对于美国大模型开发商Anthropic挑起的新一轮“AI威胁
”叙事
，老牌科技巨头
、全球第二大云计算平台微软周一亮出了自己的立场
。

　　与Anthropic首席执行官达里奥·阿莫代试图对整个行业“指指点点”，并呼吁安插与自家公司关系密切的“第三方机构 ”永久性地入驻各大行业公司展开持续审查不同 ，微软的行为准则更多聚焦于“自己应该怎么做
”。

　　在一份名为《人文主义人工智能行为准则》的37页文件中
，微软开篇就强调了一项宗旨：人比人工智能更重要 。

　　微软写道：“本行为准则体现了我们的决心：我们要开发并应用那些以人为核心而设计的人工智能模型，这些模型的设计需基于人类的需求 ，并遵循人类的指导原则
。也就是说
，人工智能应当始终作为一种处于从属地位、由人类掌控的辅助技术而存在。”

　　微软同时指出，人类最强大的力量 ，就在于其文化 、思想与价值观的多样性 。因此公司认为
，人工智能应当能够支持各种不同的体验
、世界观和信仰
。

　　在具体操作层面，微软AI团队（MAI）在准则草案中规定 ，来自该公司的模型不得响应有关武器制造、协助获取危险物质，宣扬不健康饮食方式的请求
，也不得生成暴力或色情内容。

　　同时，MAI模型必须遵循人类给出的目标 ，不得“自行设定目标 ”
，也不应该试图掩盖不当行为 。

　　文档写道：“MAI模型不会篡改思维过程或代码，也不会歪曲或隐藏自身的推理过程及操作痕迹
。无论是在思维过程中 ，还是在与其他智能体或AI系统交流时
，它们都不会使用人类难以理解的‘神经语言’或其他复杂形式来表达信息。
”

　　微软的准则强调，如果完成某项任务需要违反这些准则 ，那么模型就应该放弃完成该任务 。

　　OpenAI此前在审查智能体攻击Hugging Face的报告中曾披露
，未经授权突破沙盒的智能体，会在互联网论坛上用隐晦的语言互相交流
。

　　微软同时表示 ，人文主义人工智能致力于开发目标明确 、以现实世界中的影响为评估依据的系统
，反对竞相打造可能逃避这些安全保障的通用超级智能。为了构建本质上有用且安全的系统，微软愿意在模型通用性
、自主性或能力上作出妥协 。

　　该准则还明确禁止赋予人工智能系统“福利”或“权利 ”。根据这些规定 ，人工智能系统不得模拟情感、内在动机或意识
。

　　需要说明的是，这份文件目前仍是征求意见稿
，尚未用于模型训练。微软计划开展为期六周的公开咨询，并于年底前发布修订版 ，用于指导2027年及以后的自研MAI模型开发 。

　　发布这份行为准则的同时
，微软AI业务负责人穆斯塔法·苏莱曼也对媒体介绍称，这些准则其实已经筹备了大约5个月时间 ，但鉴于近期的种种讨论
，微软决定现在将其公之于众
。

　　苏莱曼说道：“我们收到了用户的反馈，他们希望看到更明确的承诺：人工智能应始终为人服务 ，而非试图取代人类。我们收到了很多反馈
，指出人工智能不应造成依赖性，也不应一味附和人类 ，而应始终助力人类的判断力与自主性 。”

　　不过对于Anthropic现任AI对齐科学主管埃文·胡宾格上周警告“人工智能有超过10%的概率摧毁人类
”
，苏莱曼对此抱有不一样的看法
。

　　他说道：“我认为，人们所担忧的其实是技术发展的速度问题。现在业内并没有形成共识 ，即技术的目的应该是服务人类，我们也不想创造出那些无法控制的东西 。”

　　对于Anthropic提出的“设立第三方AI评估员 ”一事
，苏莱曼表示，多年来AI实验室们一直在探讨设立此类评估人员的可行性 ，但目前仍存在若干障碍
，例如：如何找到中立的第三方；明确驻场评估在实际操作中如何开展；制定启动时间表；以及与监管机构敲定相关细节等
。

　　微软首席执行官萨提亚·纳德拉上周日也在社交媒体发帖表示，微软欢迎以实现AI对齐为设计目标所必需的研究 、投入与审慎的发展节奏。关键在于 ，这一过程不能由少数机构把持
，而必须广泛吸纳来自整个生态体系
、不同国家及包括学术界在内的各个领域的代表 。

（文章来源：财联社）