#研究生的日常##科研感悟##科研狗的日常#
研一开学之前做的一个很incremental的工作,研一上学期中期做完了,发现效果还行能提升几个点。但是没有novelty,后来就搁置了。最近准备拾起来,做完,好歹是第一个工作,可以锻炼一下写作。最近,跑实验的时候rethink了这个方法,然后稍微改进了一下,然后做了一个新的架构(尚未开展实验)。今天开会讨论的时候,讲了一下这个新的想法,老师不太看好,(最重要的问题是有一个很强的Baseline,借助强大的生成模型,方法简单效果巨好),导致后面做这个任务的很难做了,就很尴尬...[二哈]。虽然我也觉得很难打败那个strong baseline,但是我觉得用不同的预训练语言模型很难去公平比较,好吧,如今的比较没有多少是绝对公平的,只能是相对公平。我觉得也不一定到sota才能值得被发表,这个工作也解决了之前没有考虑的问题,只是效果不如生成式的方法效果好。唉... 内心复杂,要不要继续投入把这个工作做完还是简单收尾投入下一个工作? trade-off
另外一个思考,下游任务不管怎么花里胡哨的模型设计,各种insight,各种motivation,都比不上一个强大的预训练语言模型带来的增益。
研一开学之前做的一个很incremental的工作,研一上学期中期做完了,发现效果还行能提升几个点。但是没有novelty,后来就搁置了。最近准备拾起来,做完,好歹是第一个工作,可以锻炼一下写作。最近,跑实验的时候rethink了这个方法,然后稍微改进了一下,然后做了一个新的架构(尚未开展实验)。今天开会讨论的时候,讲了一下这个新的想法,老师不太看好,(最重要的问题是有一个很强的Baseline,借助强大的生成模型,方法简单效果巨好),导致后面做这个任务的很难做了,就很尴尬...[二哈]。虽然我也觉得很难打败那个strong baseline,但是我觉得用不同的预训练语言模型很难去公平比较,好吧,如今的比较没有多少是绝对公平的,只能是相对公平。我觉得也不一定到sota才能值得被发表,这个工作也解决了之前没有考虑的问题,只是效果不如生成式的方法效果好。唉... 内心复杂,要不要继续投入把这个工作做完还是简单收尾投入下一个工作? trade-off
另外一个思考,下游任务不管怎么花里胡哨的模型设计,各种insight,各种motivation,都比不上一个强大的预训练语言模型带来的增益。
【#鹊桥征友#】纯欲小奶狗,就问集美们冲不冲?[doge]基本信息:性别男,身高172.5,体重125,目前江西师大研一在读,本人性格比较安静,平时喜欢唱歌,旅行,弹吉他,看书,打球等。想找一个可以聊得来的女孩子,不要只是玩玩而已的,希望可以在这个寒冷的冬季给她带来一丝温暖……#今年跨年还是一个人吗#
#太岁军团[超话]#股民的自我修养
看看,你在哪个段位?
1、小学生水平,金叉死叉。
2、中学生水平,放量缩量。
3、高中生水平,均线+macd+量。
4、大一,自制主图副图。
5、大二,加入形态学(老鸭头,过左峰)。
6、大三,追热点龙头打板。
7、大四,打板亏很多,开始学各种战法。
8、研一,缠论波浪学了各种方法依然亏成狗。
9、研二,怀疑市场,短线变中线,中线变长。
线,开始价值投资。
10、研三,怀疑人生……
11、偶遇太岁,开始追随,重燃信心。
看看,你在哪个段位?
1、小学生水平,金叉死叉。
2、中学生水平,放量缩量。
3、高中生水平,均线+macd+量。
4、大一,自制主图副图。
5、大二,加入形态学(老鸭头,过左峰)。
6、大三,追热点龙头打板。
7、大四,打板亏很多,开始学各种战法。
8、研一,缠论波浪学了各种方法依然亏成狗。
9、研二,怀疑市场,短线变中线,中线变长。
线,开始价值投资。
10、研三,怀疑人生……
11、偶遇太岁,开始追随,重燃信心。
✋热门推荐