亚马逊网络服务（aws）首席执行官亚当·塞利普斯基（adam selipsky）宣布为亚马逊基岩（amazon bedrock）推出护栏，这是一种新工具，旨在为公司提供实施语言模型保护措施的能力。在拉斯维加斯举行的 aws re：invent 大会上宣布这一消息后，aws 在一篇博客文章中概述了他们致力于使企业能够部署符合其特定政策和道德标准的大型语言模型 （llm）。amazon bedrock 的护栏提供了一种一致的方法，可确保用户体验保持安全并与预期目的相关。
使用细粒度控件部署安全体验
公司现在可以指定主题和语言，这些主题和语言应该禁止其语言模型的实现。当出现与模型范围无关的查询时，ai 旨在保留响应，而不是可能提供不准确或有害的信息。例如，aws描述了金融服务公司如何将“投资建议”定义为受限制的主题，以防止该模型参与可能误导客户财务建议的对话。
除了主题排除之外，该工具还可以过滤掉企业认为冒犯或不适当的特定术语和表达方式。此功能允许不同级别的内容过滤，表示某些单词或短语在模型处理的对话中是不允许的。此外，还可以筛选出个人身份信息 （pii），以保护模型输出中的隐私和合规性法规。
行业领导者认识到负责任的人工智能的重要性
constellation research的创始人兼首席分析师ray wang强调了这种控制在开发负责任的人工智能系统方面的重要性。开发人员越来越需要防止意外或不安全的 ai 响应。虽然内容过滤和 pii 保护在开发人员关注的问题中排名靠前，但提供透明度、可解释性和反向模型决策能力的功能同样重要。
尽管护栏已经公布，但预计来年将向 aws 客户广泛提供。通过这一发展，亚马逊加强了其在管理合乎道德的人工智能部署方面的作用，这是企业越来越多地将人工智能和机器学习功能集成到其运营中的关键方面。amazon bedrock 的护栏被定位为安全合规的 ai 开发的基石，促进 ai 辅助业务流程的信任和可靠性。
亚马逊与q一起加入聊天机器人社区
本周早些时候，aws宣布了亚马逊的第一个聊天机器人q。q 是一个聊天机器人，可帮助企业及其员工更高效地使用 amazon web services （aws）。q 可以以自然友好的方式回答有关 aws 功能和服务的问题，并帮助用户解决他们可能遇到的任何问题。
用户可以通过 slack 等常用的工作场所通信工具或直接从 aws 管理控制台与 q 进行交互。这样，用户就可以在不中断的情况下管理他们的云基础设施。q 还提供相关文档和引文来支持其答案，这是聊天机器人功能的重大改进。
未经允许不得转载：凯发k8ag旗舰厅 » 亚马逊云科技推出护栏以增强语言模型的安全性
