语言模型的成长轨迹是否遵循发展规律
研究语言模型在训练过程中能力的发展轨迹是否与儿童成长相似
中文摘要
本研究探讨了语言模型在训练过程中能力的发展轨迹是否与儿童成长相似。通过分析语言模型在训练过程中的能力变化,研究发现语言模型的能力增长也呈现出连续性和阶段性特征,类似于儿童的成长过程。研究使用了与发展科学中用于分析儿童成长的统计工具,揭示了语言模型在特定阶段能力增长的变化。这表明,语言模型的成长过程可以被看作是一种发展过程,但具体机制仍有待进一步研究。
研究信息
- 期刊 / 来源
- PsyArXiv 预印本
- 发表日期
- 2026-11-06
- 文献库
- psyarxiv
英文原文摘要全文
Within two years, an infant who can barely lift her head learns to sit, reach, and walk. Developmental science found that this growth is both continuous and phased: skills improve smoothly, yet the pace of improvement changes at identifiable ages, and the field built statistical tools to locate those changes. Language models also transform across training, and whether their capabilities grow smoothly or in jumps is actively debated. The present study argues that the developmental answer applies to artificial learners as well, and that the developmental tools can show it. We apply an analysis p
中文摘要由自动翻译整理,可能丢掉原文的限定条件;涉及具体数字与结论时以英文原文为准。
这条研究涉及的词条
波波玩偶实验
儿童观看成人攻击玩偶后,会模仿出类似甚至新的攻击方式,支持了观察学习理论。
皮亚杰认知发展阶段
儿童认知经过感知运动、前运算、具体运算、形式运算四个阶段,通过同化与顺应不断重建图式。
教养方式
按“要求”与“回应”两个维度,教养方式分为权威型、专制型、放任型与忽视型。
同一天收录的其它研究
内容用于快速浏览;学术引用与结论判断请以英文原文为准。