Stanford CS336 上，Tatsu 讲了一节 LLM 架构课，把过去 3 年所有主流 LLM 拆开，看它们的共通模板结论挺爆：90% 的架构选择已经收敛，你随便挑一个开源大模型，它跟其他模型在这些维度上几乎一模一样讲师的原话- 2024 年大家都在 cosplay Llama2- 2025 年的主题是「怎么训得不崩」- 2026 年的主题是「怎么扛住长上下文」下面是 2026 年开源 LLM 的标准模板 你训自己的模型可以直接抄【架构层 已经收敛的 7 件事】1）Layer Norm 挪出残差流（pre-norm）原版 Transformer 把 LN 放在残差里 几乎所有现代模型都挪到外面原因：keep your residual stream clean 梯度反传更稳2）RMS Norm 替代 LayerNormLayerNorm 的减均值 + 加 bias 那部分实际没怎么帮上忙丢掉之后 flops 只省 0.17% 但运行时省到 25%（瓶颈在数据搬运 计算反而次要）3）所有 bias 项全删跟 RMS Norm 一个道理 系统层省内存搬运4）激活函数用 SwiGLU
1:29:02
Stanford CS336 上，Tatsu 讲了一节 LLM 架构课，把过去 3 年所有主流 LLM 拆开，看它们的共通模板结论挺爆：90% 的架构选择已经收敛，你随便挑一个开源大模型，它跟其他模型在这些维度上几乎一模一样讲师的原话- 2024 年大家都在 cosplay Llama2- 2025 年的主题是「怎么训得不崩」- 2026 年的主题是「怎么扛住长上下文」下面是 2026 年开源 LLM 的标准模板 你训自己的模型可以直接抄【架构层 已经收敛的 7 件事】1）Layer Norm 挪出残差流（pre-norm）原版 Transformer 把 LN 放在残差里 几乎所有现代模型都挪到外面原因：keep your residual stream clean 梯度反传更稳2）RMS Norm 替代 LayerNormLayerNorm 的减均值 + 加 bias 那部分实际没怎么帮上忙丢掉之后 flops 只省 0.17% 但运行时省到 25%（瓶颈在数据搬运 计算反而次要）3）所有 bias 项全删跟 RMS Norm 一个道理 系统层省内存搬运4）激活函数用 SwiGLU
523.9K views1 week ago
x.comJason Zhu
Copilot使用常见问题：该服务在你所在的地区不可用、你已达到今天的对话限制、正在尝试重新连接、Copilot消失了、手机Copilot...
Copilot使用常见问题：该服务在你所在的地区不可用、你已达到今天的对话限制、正在尝试重新连接、Copilot消失了、手机Copilot...
110.7K viewsDec 18, 2023
bilibili稀有学生
手机连接和连接至Windows功能演示
手机连接和连接至Windows功能演示
56.5K viewsMay 12, 2024
bilibili独立观察员
Travel Tips: How To Avoid International Roaming Charges on Your Phone
2:27
Travel Tips: How To Avoid International Roaming Charges on Your Phone
23.2K viewsFeb 28, 2019
YouTubeThe Traveling Compass
スマホの海外利用で高額請求が来ないように設定する方法
2:07
スマホの海外利用で高額請求が来ないように設定する方法
19.8K viewsSep 10, 2018
YouTube[生活するように旅をする]ワタリドリチャンネル
虚拟手机号可接收验证码
2:15
虚拟手机号可接收验证码
467.5K viewsNov 10, 2023
bilibili原神私芙芙
WiFi Calling WiFi通话连不上？动动手指，改成国外DNS即可解决。Ultra Mobile和RedPocket都能正常使用 | 美国手机卡在中国使用
14:57
WiFi Calling WiFi通话连不上？动动手指，改成国外DNS即可解决。Ultra Mobile和RedPocket都能正常使用 | 美国手机卡在中国使用
35.8K viewsOct 18, 2022
YouTubeDaddyEarn奶爸套利
14:07
【001】三问境外手机卡：怎么买/怎么用/为什么值，从购买、选择到成本分析的全攻略
1.9K views9 months ago
YouTube有什么好玩playfulsoul
16:32
回国篇：海外人士去中国怎样用手机，四种方法全解析 （How to use your phone in China from overseas）
497.6K viewsOct 12, 2023
YouTube含蓄说
9:22
长期可用的境外手机号码！永不过期接收境外短信！我的3个方法！轻松注册TikTok、Instagram、ChatGPT等｜数字牧民LC
400.7K viewsJan 30, 2023
YouTube数字牧民LC
11:18
【中国手机号2】离开中国如何保留中国手机号码? 开通在海外接收短信验证码功能/中国电信中国手机号码保号套餐/中国手机号/中国手机号离境保号/中国手机号码停机保号/回国须知/回国指南/回国注意事项
81.1K viewsFeb 26, 2025
YouTube像风一样自由
14:03
How to have a foreign phone number long-term? Detailed tutorial on enabling eSIM on your phone! S...
3.3K views5 months ago
YouTube不一样的强哥
9:39
翻墙后为什么需要一张外国电话卡，平替方式对比，最划算电话卡推荐 接码平台｜Google Voice｜科学上网｜VPN翻墙｜翻墙必看｜数字身份｜数字移民｜隐私安全｜金融身份
264.2K viewsMay 16, 2025
YouTube数字指南针
8:59
手把手教你解决｜📱手机在国外接收不到短信和和验证码怎么办⁉️在国外如何正确拨打国内移动客服热线电话⁉️【实用干货收藏版】
56.2K viewsFeb 22, 2022
YouTubeDear Angelababe
3:05
出国美国电话免费打！iPhone双卡隐藏神技，没WiFi也能省国际漫游费！
9.5K viewsAug 7, 2021
YouTube另一角
19:19
再说海外去中国用手机：四种方法怎样选 (esim, 实体卡, 国际漫游, 及到中国开手机号) 如何购买使用价格适用场合及优缺点。4 Ways to use cell phone in China
6.8K viewsNov 7, 2024
YouTube含蓄说
2:30
超简单海外手机SIM卡注册保姆级教程，无月租/不记名/不限时，抖音/tiktok/telegram/平台接码终极方案
16.7K viewsJul 26, 2023
YouTubeST兰老师
13:18
永久免费？0月租、保号20年、功能最强境外电话卡Giffgaff及Talkatone注册教程｜google vioce最佳替代品｜免费收发境外短信、注册ChatGPT等境外APP｜红孩儿Redman
54.8K viewsJun 8, 2024
YouTube红孩儿Redman
13:38
如何低成本在国内保留使用海外手机号？eSIM太方便了！
2.5K views11 months ago
YouTube贝利说TV
19:08
📲 2025年低资费、能在中国长期接收短信的国外eSIM保号卡有哪些？推荐几张海外eSIM保号卡用来接收短信、没有eSIM手机也能用！如何拥有低资费的 eSIM 卡｜数字牧民LC
260.7K viewsJul 4, 2024
YouTube数字牧民LC
5:04
【0月租海外手机号】免费接收短信｜最强境外接码eSIM｜eSIM Plus｜不用实名｜不用保号｜永久有效｜可注册Telegram账号｜可注册X,Google等海外账号｜5ber｜ESTK｜SOSIM
33.5K views5 months ago
YouTube撸毛战神
11:20
永久有效的国外手机号！无月租、免实名，注册谷歌等账号畅通无阻 | 抽奖活动已结束
195.9K views8 months ago
YouTube黄思平
21:54
中国大陆得到国外手机号太难？这期把“国外手机号/接码/保号”讲清楚了（注意 eSIM Plus）
1.8K views4 months ago
YouTubeshousake
6:40
免费接收国外短信验证码 | 1毛钱用国外虚拟电话号 | 全网最热门接码平台分享 | | 5SIM | SMS-Activate | 国外虚拟手机号 | 无限芝士
133.9K viewsJun 2, 2024
YouTubeInfiCheesy
7:20
USE PHONE WHILE TRAVELING | NO roaming fees
104.6K viewsAug 14, 2022
YouTubePortable Professional (Travel Tips with Megan)
10:52
The Phone Hack That Saved Me Thousands While Traveling
1.4K views3 months ago
YouTubeShe Run the World
7:39
How To Use Your Cell Phone Internationally | Travel Tips & Advice
361.8K viewsJun 19, 2022
YouTubeTraveling with Kristin
8:51
How to Use Your Phone While Traveling: International SIM Cards, Phone Plans, and More!
34.1K viewsFeb 26, 2023
YouTubeShe Run the World
7:18
5 Tips to USE YOUR PHONE Internationally (And Avoid Roaming Charges)
372.7K viewsJul 23, 2023
YouTubeAway Together w/ Nik and Allie
14:09
International Cell Phone Travel Tips | Save MEGA $$$ on Roaming!
218K viewsFeb 5, 2023
YouTubeNora Dunn (The Professional Hobo)
See more