OpenAI寻求通过新的客户隐私保护超越Anthropic

随着人工智能模型变得越来越强大，这些模型被滥用的可能性也在增加--人们呼吁建立新的护栏来阻止此类滥用行为的发生。人工智能公司现在必须在尊重企业客户隐私的同时密切关注使用情况是否存在问题。OpenAI意识到有机会超越其竞争对手Anthropic，刚刚宣布了一种以隐私为中心的安全方法来监控滥用。该公司正在为选择客户预览一项新服务，称之为“私人安全处理”。这是一个自动化系统，可以监视潜在的滥用行为，同时不保留任何客户的数据。该系统显然与Anthropic最近宣布的数据保留政策背道而驰。该政策激怒了一些客户，使人工智能实验室能够将用户数据（他们的所有会话以及其中的对话）保留30天（涉及“覆盖模型”）。该公司表示，这些模型包括所有神话级模型和“具有类似功能的未来模型”。这项政策于7月宣布，旨在确保安全，使实验室能够筛选和分析潜在的不当行为。然而，一些处理大量敏感数据且不希望人工智能实验室隐藏（或检查）这些数据的企业对此深感担忧。OpenAI与大多数其他人工智能公司一样，已经通过遵守一项名为“零数据保留”的政策，为客户提供了相对程度的隐私。ZDR使用OpenAI API中的代理来监控每个会话的滥用情况。通过这种方式，公司不会保留客户数据，但公司仍然能够扫描不良活动，而无需人为干预。值得注意的是，Anthropic在很大程度上也遵守ZDR --除了Fable等“覆盖模型”。OpenAI表示，私人安全处理是一项扩大了ZDR范围的新技术。它将其描述为一种长视野形式

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。