贫穷限制 AI 想象?|硅谷徐老师对话英伟达、DeepMind 大模型专家(下)

年初火爆一时的斯坦福 Smallville「虚拟小镇」,现在宣布正式开源。硅谷人正在 all-in(全力投入) AI 智能体,希望能够创造出一个真实存在,又让人惊喜的「西部世界」,甚至让 AI 智能体们走入寻常人家,为人类的生活和工作效率带来巨大提升。 本期「科技早知道」与「OnBoard!」串台,由硅谷徐老师和合作主播 Monica 共同主持,邀请了曾在 OpenAI 工作和实习,从事 AI 智能体、大模型研究领域的两位大牛参与录制。他们分别是英伟达高级 AI 研究科学家 Jim Fan,和谷歌 DeepMind 研究员戴涵俊。 AI 智能体何时能够进入我们的生活,面临哪些挑战?为什么当今的大模型更像是「炼金术」? Llama 2 为何刚一发布就刺激大量创新出现? 在 AI 研究的道路上,如何避免被「贫穷限制了想象」?如果你想通过硅谷 AI 一线精英从业者那里了解未来即将发生的事情,这期节目一定不能错过。 (考虑到节目时间总长,分为上下两期发布。上半期 (https://guiguzaozhidao.fireside.fm/20220178)昨天已经发布,你现在听到的是下半期。由于话题专业性和嘉宾表达习惯,在本期节目中你可能会听到更多英文术语,请听友见谅。不明白的可以在小宇宙上留言提问,我们会尽力回答!) 主要话题 [01:35] 多模态模型是怎样工作的?为什么 Llama 2 对于大模型生态带来巨大推动? [16:28] 要能够处理多模态模型的数据,有哪些核心的难点? [19:59] 对于 Jim 和涵俊,在 OpenAI 实习和工作的哪些印象最深刻? [21:32] 2016 年,GPT/ChatGPT 的「影子」在 OpenAI 内部浮现 [27:47] 当学术界被「贫穷」限制了想象:OpenAI 开创一种新的模型训练思维模式,让学术界自然语言研究大牛都觉得传统模式要完蛋了 [34:32] 做大语言模型,最被高估和低估的挑战是什么? [40:18] 10-15 年后,纯语言模型的智商可能已经超越人了 [46:40] 普通人练就 critical thinking 本领,才能更好迎接 AI 时代的到来 [60:19] Jim 被贝索斯关注的时候在想什么? [61:40] 涵俊、Jim 和徐老师的结尾寄语 本期人物 Jim Fan,英伟达高级 AI 研究科学家,曾在 OpenAI 实习,博士期间就读于斯坦福大学。 戴涵俊,Google DeepMind 研究员,曾在 OpenAI 工作,博士期间就读于乔治亚理工大学。 硅谷徐老师,硅谷连续创业者、人工智能高管、斯坦福商学院客座讲师,「科技早知道」主播 |推特:@H0wie_Xu| 微信公众号:硅谷云 | AI 英文博客:howiexu.substack.com Monica,播客节目 Onboard! 主理人,美元 VC 投资人,前 AWS 硅谷团队+AI 创业公司打工人,公众号:M小姐研习录 (ID: MissMStudy) 主理人 | 即刻:莫妮卡同学 延伸阅读 - 关于多模态:给静态大预言模型增加视觉能力的论文 (https://arxiv.org/abs/2204.14198) - 关于openai早先用game来解锁泛化能力的论文 (https://openai.com/research/procgen-benchmark) 往期节目 - AI Agent 智能体 真相和未来 | 硅谷徐老师对话英伟达、DeepMind大模型专家(上) (https://guiguzaozhidao.fireside.fm/20220178) - 超级独角兽 Databricks 联合创始人:从对决 Snowflake,到人类如何与 AI 共存 | S7E21 硅谷徐老师 (https://guiguzaozhidao.fireside.fm/20220174) - 通用人工智能离我们多远,大模型专家访谈 |S7E11 硅谷徐老师 x OnBoard! (https://guiguzaozhidao.fireside.fm/20220162) - AI大神贾扬清离职阿里后首次受访:创业为什么不做大模型|硅谷徐老师 S7E07 (https://guiguzaozhidao.fireside.fm/20220158) 加入我们 声动活泼正在招聘「节目监制」和「声音设计师」,查看详细讯息请 点击链接 (https://sourl.cn/j8tk2g) 。如果你正准备在相关领域发挥专长、贡献能量,请联系我们。 欢迎加入声动胡同会员计划 (https://sourl.cn/iCVg6n) 成为声动活泼会员,支持我们独立而无畏地持续创作,并让更多人听到这些声音。 支付 ¥365/年 (https://sourl.cn/ZPb9Dm) 成为声动胡同常住民。加入后,你将会在「声动胡同」里体验到专属内容、参与社群活动,和听友们一起「声动活泼」。 在此之前,也欢迎你成为声动胡同闲逛者 (https://sourl.cn/ZPb9Dm) ,免费体验会员内容、感受社群氛围。 了解更多会员计划详情,我们在声动胡同等你。 (https://sourl.cn/4xPkEf) 幕后制作 监制:杜晨、闻晓(实习)、刘灿、东君 后期:迪卡普里鑫、六工(实习) 运营:瑞涵、Babs 设计:饭团 商务合作 声动活泼商务合作咨询 (https://sourl.cn/6vdmQT) 关于声动活泼 用声音碰撞世界。声动活泼致力于为人们提供源源不断的思考养料。 我们还有这些播客:声东击西 (https://etw.fm/episodes)、What's Next|科技早知道 (https://guiguzaozhidao.fireside.fm/episodes)、声动早咖啡 (https://sheng-espresso.fireside.fm/)、商业WHY酱 (https://msbussinesswhy.fireside.fm/)、跳进兔子洞 (https://therabbithole.fireside.fm/)、反潮流俱乐部 (https://fanchaoliuclub.fireside.fm/)、泡腾 VC (https://popvc.fireside.fm/)、吃喝玩乐了不起 (https://urbanfloat.fireside.fm/) 如果你想获取热门节目文字稿,请添加微信公众号 声动活泼 如果想与我们交流,欢迎到即刻 (https://okjk.co/Qd43ia)找到我们 也期待你给我们写邮件交流,邮箱地址是:ting@sheng.fm 如果你喜欢我们的节目,欢迎 打赏 (https://etw.fm/donation) 支持,或把我们的节目推荐给朋友 Special Guests: Jim Fan, Monica, and 戴涵俊.

2356 232