当前位置:网站首页>擴散模型又殺瘋了!這一次被攻占的領域是...

擴散模型又殺瘋了!這一次被攻占的領域是...

2022-06-22 14:41:00 智源社區

擴散模型最早在圖像生成領域大火,隨後擴展到了其他連續域,例如語音、視頻、點雲數據,最近Google發布的用於文本到圖像生成的GLIDE模型,更是讓擴散模型從AI圈內火到了圈外。

不過,雖然擴散模型的熱度極高,但是面向離散變量的擴散模型的性能一直欠佳,特別是在語言,圖等結構當中。

最近,斯坦福大學自然語言處理研究組在利用擴散模型解决自然語言處理問題中取得了新的進展。

具體說來,在可控自然語言生成任務上,研究者們利用連續擴散模型,對預訓練的語言生成模型進行可插拔的操控,就能够在許多任務上達到甚至超過Fine-Tuning的效果,大幅度超越了之前的工作。

這篇工作從方法和實驗上都非常的新穎和紮實,短短一周就已經在Twitter上收獲了千贊,在Github上收獲了140個stars。

下面,就讓我們一起來了解這篇擴散模型在語言領域的應用工作吧,說不定也能給你的領域帶來啟發呢~

論文標題:
Diffusion-LM Improves Controllable Text Generation
論文鏈接:
https://arxiv.org/pdf/2205.14217.pdf

原网站

版权声明
本文为[智源社區]所创,转载请带上原文链接,感谢
https://yzsam.com/2022/173/202206221318174286.html