【Mainly Contribution】 attention； mask machines； position embedding； Atte...
投稿
收录了4篇文章 · 1人关注
-
【Papernote】ATTENTION IS ALL MY NEED -
【Papernote】Word2vec 推导review了一下Word2vec。 背景知识： 1. 基于词共现概率这一目标函数，词表中任意index=i的单词有两部分表示，中心词向量ui和...
-
【Papernote】常用模型BP推导——FM引： 在MLP线性基础上，引入特征间的交叉。考虑特征的高维特征和系数特征，引入矩阵分解思想来降低特征计算的复杂性。 FM模型具体推导如下。
-
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/1928357/%E6%88%AA%E5%B1%8F2020-08-10_%E4%B8%8B%E5%8D%889.29.01.png', '推荐专题《PaperNote》（ 分享自 @简书 ）','http://08643.cn/c/bd488231923b?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','页面编码gb2312|utf-8默认gb2312'));){kind=link}