#MY杂货铺[超话]#
【出】山贴频繁 可预留 可观注防丢
懂包装 走pt 多收可叨 可盘可单
bm黑曼巴美周 bm闪卡 nl闪卡 forever
forever交通卡 钥匙扣 冰箱贴磁贴 水晶球 贴纸卡 好价 吒柚柳/梨吉/冬/宁 1234
nexl level forever 永远 black mamba kbang杂志卡 clio化妆品卡 美周衣服t恤
【出】山贴频繁 可预留 可观注防丢
懂包装 走pt 多收可叨 可盘可单
bm黑曼巴美周 bm闪卡 nl闪卡 forever
forever交通卡 钥匙扣 冰箱贴磁贴 水晶球 贴纸卡 好价 吒柚柳/梨吉/冬/宁 1234
nexl level forever 永远 black mamba kbang杂志卡 clio化妆品卡 美周衣服t恤
#小团的人间放映厅#
今天度过了我人生中第无数个想停留的晚上，真想时间就永恒的在这个晚上循环，然后我一直开心幸福，一直活力满满。我不知道要用什么样抽象的语言来表达我脑海里那些不停绽放的烟花，但是又想写点什么让自己来记住这些感觉，至少让未来的我想到这一天的时候不仅仅能想到开心两个字。
中午吃饭的时候xy突然感慨，什么时候才能一起去唱歌啊，我说我本来今天的计划就是一个人去KTV的，然后她说，那我们走呗！中途的曲折不说，但是就这样，在工作日周三我们参加完宣讲会头昏脑涨的晚上差一刻八点，我们俩拎着大包小包的嘴上用品站在了魔方门前，大手一挥三个小时开唱。
我在KTV上属于最开始放不开的类型，xy一嗓子lulululuhey一下子就给我干笑了，这一嗓子也为嗨翻天灵盖的一晚开了个精彩绝伦的头。
我想自己来唱歌的原因是我其实并没有认真学过韩文歌，担心不能跟朋友们唱到一起去，我就想自己一个人静静的唱一些情怀，唱一些记忆中的故事，唱一些岁月静好。于是我唱路过人间，唱美好事物，唱着人生没什么大不了的，xy唱空气莫西；我唱故梦，唱锦鲤抄，唱我着初中时候的热爱，xy唱这里是首尔特别市；我唱小情歌，唱昨日青空，唱高中那段最难忘的初恋，xy唱black mamba。
虽然这样说起来蛮搞笑啦，以及现场氛围一首一首的确实很跳脱，但是很神奇的是，并没有出现我想象中的割裂的情况。因为她唱歌真的很好听，很厉害，听她的每首歌都很享受，她唱韩文歌的时候我们俩都比原唱嗨，中文歌用真声顶高音，把我整个人都唱通透了。到我的时候呢，她会陪我一起唱她会唱的歌，顺便帮我顶上我上不去的高音，不会的歌也会静静的听着，就算是瑞平MV，也会开开心心的跟我互动，耐心的听我讲每首歌里蕴含的歌的故事和我的故事，然后一起尖叫，一起大声笑。
我说我们要不要点一首一路生花，她说两个啥也没考上的人在这生什么花，然后两个人笑倒。魔方里面有小硕版本的参宿四，当小硕拿着烟花棒的脸出现在大屏幕上的时候，考研期间从深夜图书馆回宿舍的场景一瞬间浮现眼前，于是我开始眼眶热热，她说，我们一定要一起约着去见见他。好几首男团歌其实根本不会唱，两个人人也认不全在那里瞎评，说来说去发现休/宁/凯和金/昇/玟突然集体加入了嗯嗨盆。
唱到最后，大家的爽点最终在凤凰传奇上重合。由一首被唱成强制爱的全是爱来清扫战场，后面就是别开生面的凤凰传奇特辑。我们肆意的唱着乌蒙山连着山外山，跟着完全不出下一句的歌词连蒙带唬的rap，一个人用三种声线恨不得分饰八角，试图唱出音乐节的氛围来。其实到最后这个时候我的嗓子才完全打开，脑海中的烟花表演也到达了最高潮，我好像能感受到多巴胺一点一点的爆开小火花，随着我每一句歌词话音的落下而缓缓消散，然后又爆发出下一朵。最后，在等爱的玫瑰唱完之后，我们的歌单空了，三个小时也刚刚好的溜走了。要我说，掌管时间的神真的有够不公平，怀疑它故意派了小偷趁我们开心不注意的时候悄悄偷走我的时间。
我俩说着只有考研人才懂的时间把控令人发指梗，相视而笑。打扫了一下一片狼藉的战场，收拾了一下晕乎乎缺氧的脑袋和飞出外太空的情绪，拍下了几张糊的亲妈都认不出来的照片，最后把疲惫的自己和幸福的记忆一起打包带回了家。
我喜欢晴天，喜欢开心，喜欢热爱和记录，但风景这么美，生活这么甜，自说自话也总是孤独的，所以我热爱分享，更热爱那些对我句句有回应，事事有着落的朋友们，他们总能让我感受到眼前的风景更更美，生活更更甜。
今天度过了我人生中第无数个想停留的晚上，真想时间就永恒的在这个晚上循环，然后我一直开心幸福，一直活力满满。我不知道要用什么样抽象的语言来表达我脑海里那些不停绽放的烟花，但是又想写点什么让自己来记住这些感觉，至少让未来的我想到这一天的时候不仅仅能想到开心两个字。
中午吃饭的时候xy突然感慨，什么时候才能一起去唱歌啊，我说我本来今天的计划就是一个人去KTV的，然后她说，那我们走呗！中途的曲折不说，但是就这样，在工作日周三我们参加完宣讲会头昏脑涨的晚上差一刻八点，我们俩拎着大包小包的嘴上用品站在了魔方门前，大手一挥三个小时开唱。
我在KTV上属于最开始放不开的类型，xy一嗓子lulululuhey一下子就给我干笑了，这一嗓子也为嗨翻天灵盖的一晚开了个精彩绝伦的头。
我想自己来唱歌的原因是我其实并没有认真学过韩文歌，担心不能跟朋友们唱到一起去，我就想自己一个人静静的唱一些情怀，唱一些记忆中的故事，唱一些岁月静好。于是我唱路过人间，唱美好事物，唱着人生没什么大不了的，xy唱空气莫西；我唱故梦，唱锦鲤抄，唱我着初中时候的热爱，xy唱这里是首尔特别市；我唱小情歌，唱昨日青空，唱高中那段最难忘的初恋，xy唱black mamba。
虽然这样说起来蛮搞笑啦，以及现场氛围一首一首的确实很跳脱，但是很神奇的是，并没有出现我想象中的割裂的情况。因为她唱歌真的很好听，很厉害，听她的每首歌都很享受，她唱韩文歌的时候我们俩都比原唱嗨，中文歌用真声顶高音，把我整个人都唱通透了。到我的时候呢，她会陪我一起唱她会唱的歌，顺便帮我顶上我上不去的高音，不会的歌也会静静的听着，就算是瑞平MV，也会开开心心的跟我互动，耐心的听我讲每首歌里蕴含的歌的故事和我的故事，然后一起尖叫，一起大声笑。
我说我们要不要点一首一路生花，她说两个啥也没考上的人在这生什么花，然后两个人笑倒。魔方里面有小硕版本的参宿四，当小硕拿着烟花棒的脸出现在大屏幕上的时候，考研期间从深夜图书馆回宿舍的场景一瞬间浮现眼前，于是我开始眼眶热热，她说，我们一定要一起约着去见见他。好几首男团歌其实根本不会唱，两个人人也认不全在那里瞎评，说来说去发现休/宁/凯和金/昇/玟突然集体加入了嗯嗨盆。
唱到最后，大家的爽点最终在凤凰传奇上重合。由一首被唱成强制爱的全是爱来清扫战场，后面就是别开生面的凤凰传奇特辑。我们肆意的唱着乌蒙山连着山外山，跟着完全不出下一句的歌词连蒙带唬的rap，一个人用三种声线恨不得分饰八角，试图唱出音乐节的氛围来。其实到最后这个时候我的嗓子才完全打开，脑海中的烟花表演也到达了最高潮，我好像能感受到多巴胺一点一点的爆开小火花，随着我每一句歌词话音的落下而缓缓消散，然后又爆发出下一朵。最后，在等爱的玫瑰唱完之后，我们的歌单空了，三个小时也刚刚好的溜走了。要我说，掌管时间的神真的有够不公平，怀疑它故意派了小偷趁我们开心不注意的时候悄悄偷走我的时间。
我俩说着只有考研人才懂的时间把控令人发指梗，相视而笑。打扫了一下一片狼藉的战场，收拾了一下晕乎乎缺氧的脑袋和飞出外太空的情绪，拍下了几张糊的亲妈都认不出来的照片，最后把疲惫的自己和幸福的记忆一起打包带回了家。
我喜欢晴天，喜欢开心，喜欢热爱和记录，但风景这么美，生活这么甜，自说自话也总是孤独的，所以我热爱分享，更热爱那些对我句句有回应，事事有着落的朋友们，他们总能让我感受到眼前的风景更更美，生活更更甜。
以色列人工智能公司 AI21 Labs 推出开源语言模型 Jamba，上下文窗口256k，基准测试表现见图1。
不同于以往 LLM 主要采用 Transformer 架构，该模型是将 Mamba 与 Transformer 架构相结合。
传统 Transformer 架构具有内存占用大、推理速度随着上下文的增加而变慢的缺点，由卡内基梅隆大学和普林斯顿大学的研究人员提出的 Mamba 架构可以解决这两个问题。（图2）
Jamba 由 Transformer、Mamba 和混合专家（MoE）层组成，可同时优化内存、吞吐量和性能。
Jamba 的 MoE 层允许它在推理时仅使用 52B 可用参数中的 12B 参数，其混合结构使这 12B 有效参数比同等规模的纯 Transformer 模型更高效。
此前虽然有人尝试过扩展 Mamba，但没有人将其扩展到超过 3B 参数的规模。Jamba 是第一个达到量产级规模的混合架构。
Jamba 的模型架构见图3，效率方面见图4。关于 AI21 Labs，看这条微博：https://t.cn/A6T5vkps。
不同于以往 LLM 主要采用 Transformer 架构，该模型是将 Mamba 与 Transformer 架构相结合。
传统 Transformer 架构具有内存占用大、推理速度随着上下文的增加而变慢的缺点，由卡内基梅隆大学和普林斯顿大学的研究人员提出的 Mamba 架构可以解决这两个问题。（图2）
Jamba 由 Transformer、Mamba 和混合专家（MoE）层组成，可同时优化内存、吞吐量和性能。
Jamba 的 MoE 层允许它在推理时仅使用 52B 可用参数中的 12B 参数，其混合结构使这 12B 有效参数比同等规模的纯 Transformer 模型更高效。
此前虽然有人尝试过扩展 Mamba，但没有人将其扩展到超过 3B 参数的规模。Jamba 是第一个达到量产级规模的混合架构。
Jamba 的模型架构见图3，效率方面见图4。关于 AI21 Labs，看这条微博：https://t.cn/A6T5vkps。
✋热门推荐