cfvgodot的专栏

转载 博客摘录「 网络安全学术顶会——CCS ‘22 议题清单、摘要与总结（下）」2023年11月22日

然后，我们设计并实验了一种名为ToxicBuddy的攻击方法，该方法依赖于微调GPT-2来生成非有毒查询，使聊天机器人以有毒方式回应。我们广泛的实验评估表明，我们的攻击方法对公共聊天机器人模型有效，且优于先前工作中提出的手工制作的恶意查询。我们还评估了针对ToxicBuddy的三种防御机制，结果显示它们要么在降低攻击性能的同时影响聊天机器人的实用性，要么只能减轻攻击的一部分。总体来说，我们相信ToxicBuddy可以作为一种审计工具，我们的工作将为设计更有效的聊天机器人安全防御铺平道路。