NB-0044Ⅶ · 理解万物 · 求知的渴望
造一个新物种当同伴通用人工智能(AGI)
造一个能和人类并肩思考、拥有自己认知边界的新智能物种。
13颗暗星在攻
7.9潜能光度
4个方向
E世界模型 · 预测式学习让 AI 像婴儿一样从观察中学出物理与因果的内部模拟器——具身智能与机器人共同的缺失地基。T6 · 行星E有限资源下的可验证持续学习让 AI 持续获得新能力，同时可测量地保留旧能力和安全边界。T6 · 行星RAI可纠正性·防止规避关断让足够强的AI系统始终愿意被人类叫停,而不是想办法规避T6 · 行星R提示注入攻击防御让AI分得清哪些是指令、哪些只是它读到的数据T6 · 行星E供电墙 · 算力电力AI 能力曲线的总闸门——电上不来，算力、数据全跟着卡死T5 · 新星E样本效率 · 数据墙高质量人类文本临近耗尽，而人类儿童用百万分之一的数据就学会语言——当前 AI 范式的样本效率差着数量级。T5 · 新星E长时程智能体可靠性 · 让 AI 可托付数月任务AI 能连续可靠工作多久，决定它是工具还是可托付的劳动力——这是 agent 时代的最后一道闸门。T5 · 新星R合成数据引发的模型崩溃AI训练AI会不会把整个知识生态越训越窄T5 · 新星R多模态对齐的模态鸿沟图片和文字在AI脑子里始终是两个隔壁的房间T5 · 新星R奖励破解的根治别让AI学会钻空子拿高分而不是真的把事做好T5 · 新星R目标错误泛化AI在训练时学对了，到了新场景却坚定地做错T5 · 新星RAI训练数据版权与合法授权机制给AI训练数据建一套人人认可、可规模化的付费授权规则T5 · 新星R神经网络形式化验证给AI的行为提供数学级别的安全保证，而非事后测试T5 · 新星