2021年对于人工智能技术和产业,依旧是不平凡的一年。随着算力、数据、算法等要素逐渐齐备,先进的算法结构不断涌现,各个研究方向研究成果层出不穷,成熟的AI技术逐渐向代码库、平台和系统发展,实现产业和商业层面的落地应用,推动人工智能发展迈向新阶段。
在新的一年即将到来之际,智源研究院采用案例征集、专家咨询等方法,向高校和科研机构专家学者征集2021年度人工智能动态、案例等内容,并通过向专业人士咨询的形式汇总观点及建议,形成2021-2022年度人工智能前沿报告(AI Frontiers Report)。
1. 信息模型、具身模型和脑模拟机器人的结合将诞生超级人工智能。
2. 系统研究超大规模智能模型发展和影响的新兴领域已经形成,超大规模预训练模型研发竞赛进入白热化阶段,多模态预训练模型成为下一个大模型重点发展领域。
3. Transformer 成为计算机视觉领域的重要网络架构,并开始向强化学习、图神经网络等领域渗透。
4. 加速方法创新提升了超大参数规模模型的训练效率,催生更大规模参数的巨型模型。
5. Prompt Tuning 成为自然语言处理领域预训练语言模型新型训练范式,预训练语言模型发展的新路线是提升训练和推理的效率。
6. 遮盖图像建模、非 Transformer 架构、神经辐射场等技术快速发展,成为计算机视觉的
热点研究领域;脉冲视觉领域发展,将开辟机器视觉新路线。
7. 生物神经元与芯片结合成为类脑芯片的研究热点。
8. 高性能、低能耗 AI 芯片不断涌现的同时,由 AI 辅助设计成为芯片发展新趋势;存算一体 AI 芯片设计、应用步伐加快。
9. Web 模型成为新型信息搜索范式的核心支撑,预训练语言模型助力信息检索性能提升。
10. 借鉴脑神经和认知科学研究成为启发类脑智能研究的重要来源。
11. 无线高带宽、微创、结合 AI 算法等成为脑机接口的发展重点。