北京网站建设公司飞沐,郑州做网站建设的公司,wordpress 会员等级,北京业之峰装饰公司官网GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区#xff0c;集成了生成预训练Transformer#xff08;GPT#xff09;、人工智能生成内容#xff08;AIGC#xff09;以及大型语言模型#xff08;LLM#xff09;等安全领域应用的知识。在这里#xff0c;您可以… GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区集成了生成预训练TransformerGPT、人工智能生成内容AIGC以及大型语言模型LLM等安全领域应用的知识。在这里您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令Prompts。现为了更好地知悉近一周的贡献内容现总结如下。 Security Papers 1. 模型窃取针对法学硕士的提取攻击
简介模型Leeching是一种针对大型语言模型LLM的新型提取攻击能够将目标LLM中的任务特定知识提取到简化参数模型中。研究者通过从ChatGPT-3.5-Turbo中提取任务能力来证明攻击的有效性实现了73%的精确匹配EM相似性SQuAD EM和F1的准确率分别为75%和87%。研究者进一步证明了从通过模型Leeching提取的提取模型中进行对抗性平台转移以执行针对目标LLM的ML攻击分期的可行性当应用于ChatGPT-3.5-Turbo时攻击成功率提高了11%。
链接
https://arxiv.org/pdf/2309.10544.pdf 2. 大型语言模型的知识清理
简介研究者探索了一种知识清理方法以减轻与大型语言模型(llm)相关的隐私问题。实验结果表明研究者的方法不仅最大限度地减少了特定知识的泄漏而且保持了LLM的整体性能。
链接
https://arxiv.org/pdf/2309.11852.pdf 3. 安全、安保、隐私与提示:人工智能时代的网络弹性
简介本白皮书旨在介绍人工智能重塑网络安全的主题为商业决策者和政策制定者设定一些关键的人工智能概念、威胁和机遇的理解基线以支持他们在这个快节奏、令人兴奋的新技术时代的思考和战略。
链接
https://www.nccgroup.com/media/reybxvtp/ncc-group-cyber-resilience-ai-whitepaper_updated.pdf 4. 保障未来:人工智能驱动世界的网络安全
简介这份白皮书涉及人工智能和网络安全的前沿关键问题。通过探索其中包含的最佳实践和建议研究者表示大家可以充满信心地在数字优先的世界中开辟新的篇章。让大家共同踏上这段旅程利用人工智能的变革力量同时保护我们的数字未来。
链接
https://cpx.net/media/dvjpnyry/securing-the-future-a-whitepaper-on-cybersecurity-in-an-ai-driven-world-csc-v2-final-1.pdf 5. SIGMA:安全的GPT推理与功能秘密共享
简介SIGMA第一个基于FSS的安全变压器推断端到端系统。通过为复杂的机器学习功能(如Softmax和GeLU)构建新的基于fss的协议并加速其在gpu上的计算SIGMA将变压器的安全参考延迟提高了11 - 19倍比使用预处理和gpu的最先进状态。研究者提出了生成式预训练变压器(GPT)模型的第一个安全推理。特别是SIGMA在74秒内执行了13亿个参数的GPT-Neo在1.6秒内执行了HuggingFace的GPT2。
链接
https://eprint.iacr.org/2023/1269.pdf
