第15回:論文紹介 The Power of Scale for Parameter-Efficient Prompt Tuning

39:13
 
シェア
 

Manage episode 290806937 series 2889875
著作 Yohei Kikuta の情報はPlayer FM及びコミュニティによって発見されました。著作権は出版社によって所持されます。そして、番組のオーディオは、その出版社のサーバから直接にストリーミングされます。Player FMで購読ボタンをタップし、更新できて、または他のポッドキャストアプリにフィードのURLを貼り付けます。

pre-trained T5 で downstream タスクを解く時にタスクを記述する prompt token のみを学習して高い精度(巨大モデルではモデル全体を再学習するのとほぼ同等)を達成する prompt tuning の論文を紹介する回です。
Show notes は https://github.com/yoheikikuta/hikifune.fm/blob/master/ep/015.md です。
発表者:@yohei_kikuta

16 つのエピソード