游客发表
IT之家 7 月 14 日讯据外媒 TechCrunch 报道,微软硅谷关于人工智能风险的德拉对手争论愈演愈烈。令 AI 支持者深感不安的警告竞争是,大型 AI 实验室可能正利用其专有模型充当“特洛伊木马”,企业在提供服务的花钱会成同时暗中侵蚀客户利益。
当初创公司与大型企业将敏感数据输入模型后,微软模型提供商便能逐步洞察客户的德拉对手业务逻辑,甚至利用积累的警告竞争知识储备开拓同类业务,最终与客户形成直接竞争关系。企业
当地时间 12 日,花钱会成微软 CEO 萨提亚·纳德拉(Satya Nadella)在博客中发出严厉警告。微软他指出,德拉对手企业在采用 AI 时,警告竞争实际上支付了两次费用:
“你实际上付了两次钱,花钱会成一次是用金钱,另一次则是用更宝贵的东西——即为了让 AI 真正发挥作用而必须披露的专有知识。你越希望模型表现优异,就越需要向模型注入更多知识!”
为了让模型更好地适配自身需求,企业实际上正在一点点将核心经营诀窍教给模型。
纳德拉分析称,模型会通过“使用痕迹”进行深度学习,这些数据包括:
* 用户输入的提示词(Prompts);
* 智能体调用的工具链;
* 尤其是模型出错后,人类给出的纠正反馈。
每一次纠正,最终都转化为企业内部宝贵的经验积累。然而,竞争对手即便花费巨资也难以购买到同样的经验,而企业却在模型使用过程中主动将这些经验拱手相让。
鉴于此,纳德拉主张,既然 AI 企业有权抓取互联网内容来训练模型,那么企业也应当拥有反向研究并“蒸馏”AI 企业模型的权利。
IT之家注:所谓“模型蒸馏”(Model Distillation),是指通过分析大模型给出的答案,逆向推导其工作原理,进而训练出一个成本更低、效率更高的小模型。

纳德拉的核心观点在于:模型提供商不应只允许自己利用他人数据,却禁止他人研究其模型。
他批评道,模型提供商可以使用全球公共数据训练模型,却反过来限制其他方以类似方式研究其模型,这是一种明显的双标行为。“模型提供商拥有合理使用公共数据训练模型的权利,由此带来的重大创新确有必要,但目前的做法却是转过头来限制模型蒸馏,我认为这很讽刺。”
此外,纳德拉特别警惕模型提供商在服务条款中植入“保留从客户使用数据和互动数据中学习权利”的条款,认为这构成了潜在的商业风险。
随机阅读
热门排行
友情链接