🔥ayx手机版登录(综合)官方网站入口/网页版/安卓/电脑版-ayx爱游戏第一品牌但这种要领需要保存用户数据-🔥ayx手机版登录(综合)官方网站入口/网页版/安卓/电脑版
你的位置:🔥ayx手机版登录(综合)官方网站入口/网页版/安卓/电脑版 > 新闻动态 > ayx爱游戏第一品牌但这种要领需要保存用户数据-🔥ayx手机版登录(综合)官方网站入口/网页版/安卓/电脑版
ayx爱游戏第一品牌但这种要领需要保存用户数据-🔥ayx手机版登录(综合)官方网站入口/网页版/安卓/电脑版
发布日期:2025-01-09 08:05    点击次数:100

ayx爱游戏第一品牌但这种要领需要保存用户数据-🔥ayx手机版登录(综合)官方网站入口/网页版/安卓/电脑版

频年来,生成式东谈主工智能在文本、图像、音乐等范畴大放异彩。但是,跟着生成式东谈主工智能变得越来越强盛,东谈主们越来越难以鉴别 AI 生成的内容。

近日,Google DeepMind 筹商团队在《当然》(Nature)上发表的封面著述提供了一种文本水印决议,不错提高 AI 生成文本的检测精度。

图库版权图片,转载使用可能激勉版权纠纷

AI 生成内容检测的必要性

在文本、图像和音乐中,AI 生成的文本是最难以检测的。因为现存的图像和音乐生成技巧尚未像文本生成技巧相通进展,AI 生成的图像和音乐往往有某些非当然的视觉或听觉特征。AI 生成的内容在合座上成果较好,但具体到细节就显得不够当然。在图像和音乐中,也不错东谈主工添加东谈主类难以发现的水印,在后期检测中通过水印筛选出 AI 生成的作品。

但是在文本中难以平直添加东谈主类不可见的水印,这是因为文本与图像和音乐不同,每一个翰墨都是透顶可见的。同期,可用于练习 AI 的文本数据也远多于图像和音乐。在宏大的、基于东谈主类写稿的语料库的练习之下,AI 仍是至极擅长模拟东谈主类的抒发步地息兵话民俗,致使巧合更动文本的作风和口吻,这使得 AI 生成的文本难以平直检测。

尽管 AI 生成的文本与东谈主类创作的文本难以分辨,但 AI 生成的内容可能带有事实性的演叨,并不成保证可靠性。无法辩别开始的内容可能会导致伪善信息的传播,也带来了学术舞弊、版权争议等各样问题。

比如,在"杭州取消生动车依尾号限行"假新闻事件中,网友用 AI 技巧生成的"假新闻"行文严谨、口吻措辞妥贴,也基本稳健官方通报的神色,导致了演叨信息大限制传播。好意思国科技新闻网站 CNET 在三个月之内上线了 70 多篇用 AI 技巧生成的新闻报谈,却被发现其中存在多数基础性演叨,包括野心演叨、金融办法扭曲等,不得不暂时叫停 AI 状貌再行审核。

为了幸免 AI 技巧的花费,咱们需要一种要领辩别文本是否由 AI 生成。

主流检测要领:事先与过后检测

检测 AI 生成的文本是一个分类问题,咱们的主要目标是离别一个文本片断是由 AI 生成的如故由东谈主类创作的。通常一个文本检测器关于一个给定的文本片断会给出一个评分,当这个评分越过阈值时,这个片断被合计是 AI 生成的,反之则是东谈主类创作的。

文本检测框架(图片开始:凭证参考文件   [ 1 ]   翻译)

现存的主流检测要领不错分为两大类:事先检测和过后检测。事先检测不错进一步分为基于水印的检测和基于检索的检测。过后检测不错分为基于零样本学习的检测和基于练习的检测。

主流检测要领分类(图片开始:凭证参考文件   [ 1 ]   翻译)

1

事先检测

基于水印的检测是指在 AI 生成的文本中遁入某些信息以便后续检测。但由于文本的梗阻性,在文本中添加水印比在图像和音乐中添加水印穷苦许多。常用的要领是让 AI 生成的文本使用特定的谈话作风或者偏向性地使用某些特定的词汇,但这么可能会裁汰 AI 生成文本的质地。

基于检索的要领是指 AI 劳动的提供者将用户通过 AI 生成的文本保存在数据库中。当需要检测目标文本是否由 AI 生成时,将目标文本与数据库中的文本进行匹配,若是相似度较高,则很可能是 AI 生成的。但这种要领需要保存用户数据,可能带来诡秘泄露的问题。

2

过后检测

基于零样本学习的检测是指不需要进行任何的练习,仅凭证 AI 生成文本的特质来检测一段文本是否是 AI 生成的。通常 AI 生成的文本倾向于使用常见的词汇,句子的长度和结构也愈加长入。而东谈主类创作的文本则显得愈加垄断自若,每一句的水平也错落不皆。与东谈主类比较,AI 在挂念细节上智商较强而在逻辑推理上智商较弱。诓骗这些特质不错在一定进程上离别 AI 生成的文本和东谈主类创作的文本。

基于练习的检测是指使用东谈主类创作的文本和 AI 生成的文本构建一个数据集,用这个数据集练习一个分类器来识别 AI 生成的文本。但这需要汇聚宽裕的数据用于练习,况且跟着 AI 智商的跳跃,这么的离别也变得越来越穷苦。

不错看到,过后检测比事先检测要穷苦许多。为了高精度地筛选出 AI 生成的文本,在事先 AI 生成文本时就添加水印是一个很好的处罚决议。

Google DeepMind 的冲破:

SynthID-Text 水印技巧

Google DeepMind 筹商团队冷落了一种新的水印生成决议,称为 SynthID-Text。它基于之前的水印生成组件,但使用了一种新的"锦标赛采样"要领。SynthID-Text 不错非扭曲(保留文本质量)或者扭曲(以就义文本质量为代价普及水印的可检测性)地添加水印。在扭曲和非扭曲诞生下,与现存的最好要领比较,SynthID-Text 都普及了水印的检出率。

水印生成框架(图片开始:凭证参考文件   [ 2 ]   翻译)

上图中展示了大谈话模子生成文本的旨趣以及之前水印生成的框架。大谈话模子的文本生成是基于险阻文的,它会凭证输入的文本序列野心下一个词汇的漫步,然后从这个漫步中抽样出下一个词汇。

一个生成式的水印决议通常包含三个部分:一个立地数生成器、一个采样算法以及一个评分函数。水印生成的历程是:领先使用立地数生成器凭证前边的文本以及水印键生成一个立地数,然后采样算法诓骗这个立地数从词汇的漫步中抽样出下一个词汇。给出一段文本以及一个水印键,评分函数提供一个分数来量化刻下文本中含有水印的可能性,当分数越过一个阈值时就合计这段文本中含有水印。

锦标赛采样(图片开始:凭证参考文件 [ 2 ] 翻译)

SynthID-Text 冷落了一种新的"锦标赛采样"要领,上图是锦标赛采样要领的一个例子。当向模子输入" ... 我最可爱的热带生果是"时,模子野心出下一个词汇的漫步,其中"芒果"的概率是 0.5,"荔枝"的概率是 0.3,"木瓜"的概率是 0.15,"榴莲"的概率是 0.05。在不加水印的平常生成中,模子会按这个概鲠平直采样出下一个词汇。

在锦标赛采样中,模子先凭证立地数种子生成三个立地的水印函数,然后再从词汇的漫步中采样出八个词汇,将这八个词汇两两组合后进行竞赛,在每一轮竞赛中,由一个水印函数决定每一双组合中的胜出者。经过三轮竞赛后,最终的胜出者即是模子的输出规矩:"芒果"。

在锦标赛采样中,词汇是凭证水印函数的偏好采样得出的。因此添加水印的文本会在水印函数上有更高的评分。在检测时只需要评估每个词汇在对应的水印函数下的评分,再将评分加和就不错得回这段文本包含水印的可能性。

水印的添加是通过更变采样要领结束的,它会更变模子输出下一个词汇的漫步,这看起来不可幸免地会影响生成文本的质地。但是,由于采样要领中使用了立地数种子,尽管在某一立地数种子下词汇的漫步会被更变,但在对扫数立地数种子进行平均后不错得回和原始漫步磋商的规矩。SynthID-Text   不错在稳健的建树下幸免影响词汇的漫步从而保证文本的质地,也不错以蚀本一部分质地为代价提高水印的检出概率。

SynthID-Text 要领在 Google DeepMind 推出的 Gemini 东谈主工智能模子上经过了两千万次用户测试。测试规矩标明 SynthID-Text 在添加水印的同期并不会裁汰文本的质地。同期,SynthID-Text 不会产生太多的时间和野心支拨,不错被大限制地应用于坐褥施行之中。

结语

过后检测文本是否由 AI 生成是至极穷苦的。跟着 AI 智商的增强,过后检测会变得越来越穷苦,检测和反检测将会是无至极的技巧竞赛。水印要领提供了一种可能的处罚决议,但这需要大谈话模子的提供者在生成时就预先加入水印。若是用户使用的模子莫得主动加入水印,就难以在过后进行检测。此外,用户还不错使用开源模子,或者对添加了水印的文本进行二次裁剪来逃走检测。这些问题都有待进一步处罚。

改日,跟着生成式东谈主工智能的普及,何如检测 AI 生成的内容会变得越来越迫切。SynthID-Text 解说了水印技巧在文本生成中大限制应用的可能性,但水印技巧面对的穷苦也表现检测并不仅仅一个技巧问题。处罚这个问题还需要各方共同费力,变成联系的行业表率以及法律法例,从而鼓励 AI 走在为东谈主类劳动的正轨之上。

参考文件

[ 1 ] Ghosal S S, Chakraborty S, Geiping J, et al. Towards possibilities & impossibilities of ai-generated text detection: A survey [ J ] . arXiv preprint arXiv:2310.15264, 2023.

[ 2 ] Dathathri, S., See, A., Ghaisas, S., Huang, P. S., McAdam, R., Welbl, J., ... & Kohli, P. ( 2024 ) . Scalable watermarking for identifying large language model outputs. Nature, 634 ( 8035 ) , 818-823.

计议制作

出品丨科普中国

作家丨王琛 中国科学院野心技巧筹商处所读博士

审核丨于旸 腾讯玄武实验室端庄东谈主

监制丨中国科普博览

责编丨钟艳平

审校丨徐来 林林

联系推选

1.石头果然长出了头发?!不外真比较你念念的更可怕……

2."多喝水"果真灵验!最新筹商清晰:多喝水有助于减肥、诊疗肾结石……

3.为什么女性总爱喊疼?真不是矫强,而是……

4.冬天必吃的伟人菜!养分好吃还抗癌,迎接我一定要试试

5.为什么我不建议你,凡事都和伴侣"掏心掏肺"?

本文封面图片及文内图片来自版权图库

转载使用可能激勉版权纠纷

原创图文转载请后台恢复"转载"

点亮"在看"

一皆涨常识!

ayx爱游戏第一品牌

相关资讯