近日，“AI大神”、第四范式公司创始人、CEO戴文渊做客格隆汇高端访谈《格隆博士会客厅》。对于以AI为代表的硅基生命，未来可能进化出认知能力、判断能力甚至情感、欲望的担忧，戴文渊表示，AI的表现其实最后都是人为设定的目标导致的，而不是AI自己。
近日，“AI 大神”、第四范式公司创始人、CEO 戴文渊做客格隆汇高端访谈《格隆博士会客厅》。
对于以 AI 为代表的硅基生命，未来可能进化出认知能力、判断能力甚至情感、欲望的担忧，戴文渊表示，AI的表现其实最后都是人为设定的目标导致的，而不是AI自己。
硅基生命其实并不知道贪婪、欲望叫什么，它如果选择做人们看来贪婪的事情，那是因为选择贪婪可以让预测下一个字的准确率提升，源头其实还是人设定了一个什么样的目标。
例如现在的推荐引擎会产生很多的“三俗”内容，这些“三俗”内容并不是 AI 自己喜欢“三俗”，所以也想给你推“三俗”，而是人设定了一个目标——让网民看这个APP的时长尽可能地长。
然后AI发现推一些“三俗”的内容会让用户看得更久，最后它就带来了这个结果，但其实这并不是AI的自主意识，它只是在非常理性地计算，干什么样的事情对自己的目标是最好的。
就像大语言模型，它看起来好像在干很多事情，但其实它干所有事情就只有一个目标——预测下一个字的准确率，预测得尽可能的高。
虽然最近的20年AI技术日新月异，但此时此刻的理论其实并没有突破上个世纪五六十年代以及七十年代所奠基的框架。
所以不能说未来AI不会进化到自己设定自己的目标，但至少在这个理论框架没有得到突破之前，即便大模型训练数据量、算力再增加几个数量级，AI的目标仍然是人为设定的。
因此相比于硅基和碳基的替代关系，大家可能更需关注的是，人设定的这个目标对于我们整个社会乃至整个世界是否有益。
来源：格隆汇
温馨提示：最新动态随时看，请关注金投网APP。
相关推荐
- “AI大神”戴文渊寄语00后：别走寻常路，要自我不要媚俗！
- 近日，“AI大神”、第四范式公司创始人、CEO戴文渊做客格隆汇高端访谈《格隆博士会客厅》。戴文渊，是一位出生于古城苏州的80后。本硕连读毕业于上海交通大学，博士毕业于香港科技大学，师从华人界首位国际AI协会院士——杨强教授。
- 国内新闻 科学 交通 0
- AI“底牌”遭提前曝光！苹果全球开发者大会在即
- 接下来的6月，苹果将举办全球开发者大会（WWDC2024），AI有望成为此次大会的重头戏。
- 数码之家 0
- 一图看懂AI互动营销第一股趣致集团(0917.HK)IPO
- AI互动营销第一股趣致集团(0917.HK)拟全球发行股份1970.40万股，中国香港发行股份197.04万股，最高发售价为29.70港元/股，上市日期为2024年5月27日。
- 实时热点 0
- 痛失“ChatGPT之父”！IIya与OpenAI分道扬镳，保守派的大溃败？
- 前一天，OpenAI刚推出GPT-4o引来一众惊叹；紧随其后，元老级人物宣布要离职再度震惊硅谷。继“宫斗”之后，这一次，是OpenAI保守派的大溃败。
- 数码之家 科学 0
热点话题
- 中国成单身大国有哪些反思和危害？
- 中国成单身大国有哪些反思和危害？哪怕生活...[详情]
- 霍金再次发出警告 究竟科技和毁灭要怎么看待？
- 霍金再次发出警告究竟科技和毁灭要怎么看待...[详情]
- 一分钟带你看懂美联储加息到底是咋回事！
- 一分钟带你看懂美联储加息到底是咋回事！对...[详情]
- 朋友圈的微商还能盛行多久？
- 朋友圈的微商还能盛行多久？最恨微商的还得...[详情]
- 1 造成医保基金损失！百亿连锁药店一心堂遭约谈，公司紧急回应
- 2 第四范式戴文渊：人类理性边界没有突破前，AI没有自主意识
- 3 “AI大神”戴文渊寄语00后：别走寻常路，要自我不要媚俗！
- 4 与时代共舞，周黑鸭(1458.HK)的"变"与"不变"
- 5 隔夜美股全复盘(6.1)| 戴尔暴跌18%，FY25Q1 AI服务器收入创新高，但盈利承压未能打动投资者
- 6 外资重仓的出海大牛股
- 7 FDIC报告：美国银行业一季度利润激增，但仍面临重大下行风险
- 8 股价大跌3%！三星电子迎来史上首次罢工
- 9 日股创逾1个月新低！日元又到“警戒线”，年底或再挑战160关口？
- 10 如虎添翼，联想集团（0992.HK）在全球科技版图挥毫泼墨
