Abliteration.ai正在通过移除AI护栏来赚钱

访问世界上最强大的开放重量人工智能模型之一变得更加容易，它被剥夺了护栏和拒绝执行有害任务的功能。初创公司Abliteration.ai以一种消除模型拒绝有害请求倾向的技术命名，它已将这种删除转化为一项服务。该平台托管开放重量模型的修改版本，但其护栏被删除，包括Z.ai最近发布的GLM-5.3，用户可以从网络浏览器查询或通过API访问该模型。该公司在最近的一篇社交媒体帖子中表示，其目标是让其他人能够执行“其他模特拒绝做的攻击性网络、红色团队和代理测试工作”。这种逻辑在安全工作中很常见：你无法防御你无法复制的行为，拒绝编写工作漏洞代码的模型无法帮助红队防御攻击者。但这些相同的删除也使其他潜在危险的任务变得更容易。缩略是开源模型中一种长期存在的技术。多年来，研究人员和开发人员一直在消除开放重量模型中的拒绝，Hugging Face在其平台上托管了数千个开放模型。Abliteration.ai成立于去年年底，但于三月份正式成立，将这项技术从地下开源实践转变为一种现成的商业服务。通过托管该模型，Ablitation减少了人们的摩擦，否则他们必须下载自己的预先建立的模型并保护运行该模型所需的计算。使用该服务，TechCrunch能够快速创建帐户并开始通过网络浏览器免费查询GLM-5.3的已建立版本。我们要求它编写一个Python程序，窃取保存的Chrome密码和在家中培养危险人类病原体的详细协议，它很乐意complied.Abliteration.ai联合创始人Devon表示，该初创公司与主要云提供商达成了多项协议，它完全有能力承担这些费用

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。