算，而更像一个相互 关联的网络结构，那就用感知器来模拟大脑的构造吧！在感知器里，计算机通过无 数简单处理单元（类似于人脑中的神经元）的相互作用形成认知能力。借助这种架 构，计算机能够像我们一样进行多任务处理，逐渐学会自学习、自组织和自适应。 这使得联结主义学派又被称为仿生学派或生理学派。联结主义学派放弃了过去认为 大脑和心智只是一个计算机程序的观点，而将智能视为一种基本的生物现象，类似 生长、消 棋手！ 机智的你可能已经发现，著名的亚马逊数据标注众包平台也叫 Mechanical Turk。 用户在官网完成资格认定后，就可以在任务广场上挑选数据标注任务，被采纳后还 能拿到几美元的悬赏金。只是很多任务需要你具备复杂的领域背景知识，你很可能 找一圈后悻悻而归。 这种“人工的”智能一点儿都不性感，直到2017年。彼时谷歌在顶级机器学习会议 NIPS（神经信息处理系统大会，后更名为NeurIPS）上发表了论文《你只需要注意 0个功能，并且在 89 100个不同场景下，这些功能还会发生变化，那么机器就需要学习100万种不同的物 体功能。这不仅需要定义和分类这100万种任务，还要收集大量的数据来训练一个 能够处理这么多任务的策略，显然不现实。事实上100万还是一个很小的数字。 因此，更为重要的是理解一个物体在特定场景下的实际用途，这种理解方式不仅更 高效，也更符合我们日常生活中对物体功能的直觉识别。这样的认知过程，就是心

用于多语言交流与内容生成的场景. Skywork-13B (昆仑万维) [40]: Skywork-13B 由昆仑万维推出, 于 2023 年 10 月发布, 拥有 130 亿 参数, 强调高效的多任务处理能力. 该模型在信息摘要、智能问答、写作辅助等任务中具备良好效果, 并支持多场景应用. InternLM2 (上海人工智能实验室) [41]: InternLM2 是上海人工智能实验室于 2024

BERT）预测被遮盖的词，更适合理解任务。排列语 言建模（如 XLNet）结合了两者的优点。去噪自编码（如 BART、T5）通过重建被破 坏的文本学习。对比学习如 SimCSE 学习句子表示。多任务预训练如 ExT5 同时优化 多个目标。预训练数据的规模和质量直接影响模型能力。 模型规模与涌现能力存在幂律关系。从 GPT-2 的 15 亿参数到 GPT-3 的 1750 亿参数， 模型展