第47期 | GPTSecurity周报

图片

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域应用的知识。在这里,您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令(Prompts)。现为了更好地知悉近一周的贡献内容,现总结如下。

Security Papers

1.LLM代理可以自主利用0day漏洞

简介:近年来,大语言模型(LLMs)在正向和负面应用上的能力均有显著提升。研究人员开始关注这些模型在网络安全漏洞利用方面的潜力。尽管已有初步研究探讨LLM代理自动攻击网站的能力,但这些研究多局限于基本漏洞。最新研究表明,当提供CVE(常见漏洞和披露)描述时,GPT-4模型能够自主利用现实系统中87%的0day漏洞,包括被标记为临界严重的漏洞。相比之下,GPT-3.5、开源LLMs以及ZAP和Metasploit等开源漏洞扫描器在没有CVE描述的情况下,无法有效利用这些漏洞。然而,GPT-4在没有CVE描述时,其漏洞利用能力大幅下降至7%。这一发现引发了对高度智能LLM代理广泛部署可能带来的安全问题的担忧。

链接:

https://arxiv.org/pdf/2404.08144.pdf

2.超越随机输入:一种基于机器学习的硬件模糊测试方法

简介:ChatFuzz是一种创新的基于机器学习的硬件模糊测试工具,旨在克服传统硬件漏洞检测技术的局限。它利用大语言模型来解析处理器指令,并结合强化学习优化输入生成,以提高代码覆盖率。在RISC-V架构的RocketCore和BOOM核心的测试中,ChatFuzz显著提升了测试效率,短时间内实现了高覆盖率,超越了现有工具。ChatFuzz不仅检测到了已知漏洞,还发现了新漏洞,证明了其在提高硬件安全性方面的潜力。

链接:

https://arxiv.org/pdf/2404.06856.pdf

3.三明治攻击:针对LLMs的多语言混合自适应攻击

简介:本文探讨了大语言模型(LLMs)在广泛应用中遇到的挑战,尤其是在确保输出与人类价值观一致性和多语言处理能力方面。尽管采用了安全训练方法,但恶意行为者仍能操纵LLMs生成有害内容。此外,攻击者利用LLMs在不同语言中的性能差异,尤其是低资源语言的弱点,来产生有害响应。文章介绍了一种新型的“三明治攻击”,该攻击通过多语言混合输入操纵LLMs,实验显示它能在不同模型中引发有害和不一致的响应。这一发现强调了未来LLMs研究和开发需要更加关注安全性和韧性,以确保其正面服务于社会并减少滥用风险。

链接:

https://arxiv.org/pdf/2404.07242.pdf

4.Subtoxic问题:深入探讨在越狱尝试中大语言模型(LLM)回应的态度变化

简介:本文提出了一种新的研究方法,专注于对越狱提示更为敏感的问题集,以评估大语言模型(LLMs)的安全性和进行深入实验。该方法旨在克服增强的LLM安全措施所带来的限制。通过设计和分析这些问题,研究揭示了一种更有效的识别LLMs中潜在漏洞的方法,对LLM安全性的提升做出了贡献。这项研究不仅对现有的越狱技术提出了挑战,也增强了LLMs抵御潜在利用的能力。

链接:

https://arxiv.org/pdf/2404.08309.pdf

5.FuSeBMC AI:通过机器学习加速混合方法

简介:FuSeBMC-AI是一个将机器学习技术应用于软件测试的工具,它通过分析程序特征并利用先进的机器学习模型来优化测试策略。该工具结合了有界模型检查和模糊测试的优势,提高了在特定情况下的测试效果,并有效降低了资源消耗。FuSeBMC-AI的设计适应了软件测试的多样性和复杂性,能够生成高质量的测试用例,提高软件的稳定性和可靠性。这一工具的发展突显了机器学习在提升软件测试效率和精确性方面的巨大潜力,预示着软件测试自动化和智能化的新时代。

链接:

https://arxiv.org/pdf/2404.06031.pdf

编辑:Fancy

图片

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mfbz.cn/a/551146.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

通过超分辨率像素引导的Scribble Walking和逐类对比正则化的弱监督医学图像分割(SC-Ne)论文速读

目录 Weakly Supervised Medical Image Segmentation via Superpixel-Guided Scribble Walking and Class-Wise Contrastive Regularization摘要方法实验结果 Weakly Supervised Medical Image Segmentation via Superpixel-Guided Scribble Walking and Class-Wise Contrastiv…

召唤新版「数据库 GitOps 」体验官,赢取新款 Bytebase 限量周边!

距上一次「产品体验官|基于 GitHub 的数据库 CI/CD」已有一年半了⌛️ Bytebase 于上周发布了 Bytebase 2.15.0 - GitOps 整体升级 🎊 全新的 GitOps 体验,更易上手,更简洁!🤩 不管你是否使用过 Byteb…

【SpringBoot实战篇】登录认证

🍀🌸明确需求--接口文档--思路分析--开发--测试🌸🍀💕 1 明确需求 2 接口文档 登录 3 思路分析 UserServic、UserMapper在注册的时候已经实现 现在我们重点看UserController 控制器 4 开发(实现&#xff0…

一篇安装配置ubuntu22.04(步骤详细,配置成功)

一篇配置ubuntu22.04(步骤详细,配置成功) 官网下载相应的镜像 vitualbox安装ubuntu 新建虚拟机 第一步 第二步 第三步、按需分配内存、处理器个数、磁盘大小 第四步、一直下一步直至完成 配置虚拟机网络 第一步、先停止虚拟机 第二步、设置虚拟机网络 正常启…

Hudi-IDEA编程

项目 一、HudiSparkKafka(Scala) 配置详见【1.Scala配置】 依赖详见【1.HudiSparkKafka依赖】 1-1 构建SparkSession对象 def main(args: Array[String]): Unit {//1.构建SparkSession对象val spark: SparkSession SparkUtils.createSparkSession(…

7.C++:多态

一、 virtual关键字 //1.可以修饰原函数,为了完成虚函数的重写,满足多态的条件之一; //2.可以在菱形继承中,完成虚继承,解决数据冗余和二义性; 两个地方使用同一关键字,但二者间没有一点关联 二…

【C 数据结构】单链表

文章目录 【 1. 基本原理 】1.1 链表的节点1.2 头指针、头节点、首元节点 【 2. 链表的创建 】2.0 创建1个空链表(仅有头节点)2.1 创建单链表(头插入法)*2.2 创建单链表(尾插入法) 【 3. 链表插入元素 】【…

【文件系统】 F2FS文件系统学习

一、基本介绍 1、F2FS History F2FS(Flash Friendly File System)是专门为Nand Flash设计的一个日志型文件系统,于2012年12月合入Linux3.8内核,Google也在2018年(Android P)将其吸收到安卓原生版本中&…

近屿智能全新推出AI培训产品:AIGC大模型工程师与产品经理学习路径图

如今,人工智能和自然语言处理技术的发展,使得AI生成的内容(AIGC,AI Generated Content)领域开发出了巨大的潜力。就像业内巨头OpenAI公司,开发出了一系列自然语言处理模型ChatGPT,不仅带动了全世…

#陶晶驰串口屏使用

1.陶晶驰串口屏输入要连接的wifi信息实现 (1)选择文本控件 (2)给文本控件配置输入键盘,id代表用户名,password代表wifi密码(注意wifi的频段需要为2.4GHz) (3&#xff0…

微信小程序获取蓝牙信标

/*** 搜索设备界面*/ import Dialog from vant/weapp/dialog/dialog; Page({data: {list: []},onPullDownRefresh: function () {wx.request({url: https://wwz.jingyi.icu/app/Explain/index,data: {scenic_id: 3},method: POST,success: (res) > {console.log(res);let th…

Elastic安装后 postman对elasticsearch进行测试

一、创建索引和mapping //id 字段自增id //good_sn 商品SKU //good_name 商品名称 //good_introduction 商品简介 //good_descript 商品详情 PUT http://IP:9200/shop { "mappings":{ "good":{ "properties":{ …

基于Linux C++多线程服务器 + Qt上位机开发 + STM32 + 8266WIFI的智慧无人超市

前言 针对传统超市购物车结账排队时间长、付款效率低的问题,提出了一种更符合现代社会人们购物方式-基于RFID的自助收银系统。习惯了快节奏生活的人们都会选择自助收银机结账,理由显而易见:自助收银机结账很方便,几乎不用排队&am…

MongoDB的安装配置及使用

文章目录 前言一、MongoDB的下载、安装、配置二、检验MongoDB是否安装成功三、Navicat 操作MongoDB四、创建一个集合,存放三个文档总结 前言 本文内容: 💫 MongoDB的下载、安装、配置 💫 检验MongoDB是否安装成功 ❤️ Navicat 操…

【全开源】多功能完美运营版商城 虚拟商品全功能商城 全能商城小程序 智慧商城系统 全品类百货商城

内容目录 一、详细介绍二、效果展示1.部分代码2.效果图展示 三、学习资料下载 一、详细介绍 完美运营版商城/拼团/团购/秒杀/积分/砍价/实物商品/虚拟商品等全功能商城 干干净净 没有一丝多余收据 还没过手其他站 还没乱七八走的广告和后门 后台可以自由拖曳修改前端UI页面 …

Unity之XR Interaction Toolkit如何在VR中实现渐变黑屏效果

前言 做VR的时候,有时会有跳转场景,切换位置,切换环境,切换进度等等需求,此时相机的画面如果不切换个黑屏,总会感觉很突兀。刚好Unity的XR Interaction Toolkit插件在2.5.x版本,出了一个TunnelingVignette的效果,我们今天就来分析一下他是如何使用的,然后我们自己再来…

numpy的使用

numpy的介绍 numpy是一个python开源的科学计算库 使用numpy可以方便的使用数组、矩阵(列表套列表)进行计算 包括线性代数、傅里叶变换,随机数生成等大量函数 python源代码和numpy和的区别 import numpy as np def func(n):a np.arange(n) *…

SAP 内部订单(二)-内部订单相关操作

业务背景:公司A要举办一个展会,持续时间大概一个月,涉及到材料费,人工费,外部服务费等,老板想要知道这个展会总共的花销是多少,明细是哪些,并且这些费用最终都进入市场部的成本中心。…

Jackson 2.x 系列【25】Spring Boot 集成之起步依赖、自动配置

有道无术,术尚可求,有术无道,止于术。 本系列Jackson 版本 2.17.0 本系列Spring Boot 版本 3.2.4 源码地址:https://gitee.com/pearl-organization/study-jaskson-demo 文章目录 1. 前言2. 起步依赖3. 自动配置3.1 JacksonPrope…

数学建模-最优包衣厚度终点判别法-二(K-Means聚类)

💞💞 前言 hello hello~ ,这里是viperrrrrrr~💖💖 ,欢迎大家点赞🥳🥳关注💥💥收藏🌹🌹🌹 💥个人主页&#xff…