马斯克为什么呼吁暂停AI训练?ChatGPT回答 ...

文章来源: - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
(被阅读 次)

据生命未来研究所官网,3 月 22 日,生命未来研究所(Future of Life)向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的训练,暂停时间至少为 6 个月。该机构以 " 引导变革性技术造福生活,远离极端的大规模风险 " 为使命。

信中写道 " 只有在我们确信它们的效果是积极的,风险是可控的情况下,才应该开发强大的人工智能系统。" 马斯克此前曾多次表达对人工智能的担忧,认为人工智能是未来人类文明最大的风险之一,威胁程度远高于车祸、飞机失事、毒品泛滥等甚至比核武器都危险得多。

截至目前,马斯克、苹果联合创始人 Steve Wozniak、Stability AI 创始人 Emad Mostaque 等上千名科技大佬和 AI 专家已经签署公开信。

值得一提的是,OpenAI CEO 奥特曼在与 MIT 研究科学家 Lex Fridman 的最新对话中指出,AI 已经出现其无法解释的推理能力,同时承认 "AI 杀死人类 " 有一定可能性。

图片来源:futureoflife.org

马斯克为什么反对人工智能?

深圳卫视直新闻报道,实际上,马斯克反的只是 OpenAI 和 GPT。

马斯克是生命未来研究所的最初发起人,并捐赠了 1000 万美元。

其实,马斯克也是 OpenAI 公司的联合创始人之一。但他在 2018 年离开了 OpenAI 的董事会,并撤销了一大笔赞助款。美国《财富》杂志当时报道称,离开的原因是因为马斯克虽然支持人工智能,但特斯拉智能驾驶技术与 OpenAI 之间有 " 潜在利益冲突 "。报道中的一句话引人浮想联翩—— " 随着特斯拉更专注于 AI 技术 "。还有报道称,马斯克在离开前提出过由他本人执掌 OpenAI 运营的建议,但遭到了拒绝。

这就不难理解,为什么离开 OpenAI 后,马斯克就一直在批评后者,甚至矛头直指击后者最大的支持者——微软和比尔 · 盖茨。

马斯克解决与 OpenAI" 潜在技术冲突 " 的方式也十分简单粗暴,那就是挖走它的人才。2022 年离职的特斯拉自动驾驶主管 Andrej Kapathy 就是其中之一。他堪称 AI 界的超级网红,也曾是 OpenAI 最优秀的人才之一

从马斯克和 Andrej Kapathy 的爱恨情仇不难看出,马斯克不是痛恨人工智能,而是痛恨自己没有掌握最高级的技术。

马斯克与 OpenAI 的重大分歧之一在于,OpenAI 宣称其目标是专注于人工智能安全和道德规范的开放式研究组织。

3 月 16 日,马斯克在推特上写道:" 我仍然很困惑,一个我捐赠了 1 亿美元的非营利组织是如何变成一个市值 300 亿美元的营利性组织的。如果这是合法的,为什么不是每个人都这么做呢?"

马斯克此前就曾发推批评 OpenAI,称 "OpenAI 最初是作为一家开源(这就是为什么我把它命名为‘ Open ’ AI)的非营利性公司而创建的,为了抗衡谷歌,但现在它已经成一家闭源的营利性公司,由微软有效控制……这完全不是我的本意。"

怎么看待马斯克等人叫停练?ChatGPT 回答

今日,第一财经记者提问 ChatGPT 怎么看马斯克等人叫停对它的训练,ChatGPT 回答道:" 马斯克叫停 GPT 训练可能有多种原因,其中一个可能是担心模型被误用或滥用,尤其是在自然语言生成和信息操纵方面。GPT 模型能够生成自然语言文本,包括虚假或有害信息,这可能会对社会和个人造成危害。此外,GPT 模型也可能有隐私问题,因为它可以生成人类语言,可能会包含敏感信息。"

ChatGPT 认为,叫停 GPT 训练主要是出于对社会责任和技术发展的前瞻性方面的考虑。它还提到,GPT 模型可能存在一些局限性,或者不是解决某些问题的最佳方法,因此需要尝试寻找更好的替代方案。

OpenAI CEO:"AI 确实可能杀死人类 "

据澎湃新闻 3 月 28 日报道,OpenAI CEO 山姆 · 奥特曼称,并不否认过分强大的 AGI" 可能杀死人类 " 这一观点。必须承认,(AI 杀死人类)有一定可能性。很多关于 AI 安全和挑战的预测被证明是错误的,我们必须正视这一点,并尽早尝试找到解决问题的方法。

值得注意的是,据财联社报道,近日,挪威机器人公司 1X Technologies 宣布完成 A2 轮融资,共筹集到 2350 万美元。OpenAI 旗下创业基金领投此轮融资,Tiger Global 以及一群挪威投资者也参与其中。

获得融资后,该公司创始人进一步表示,"1X 很高兴能得到 OpenAI 的领投,因为我们的使命是一致的:将新兴技术有意识地融入人们的日常生活。在我们投资者的支持下,我们将继续在机器人领域取得重大进展,并增强全球劳动力市场。"

值得注意的是,人形机器人也是马斯克十分关注的方向。去年 9 月 30 日举办的特斯拉 AI 日上,马斯克展示了外界引颈期盼的人形机器人 Optimus,马斯克曾表示,机器人业务将比汽车更具价值。

彼时,马斯克在发布会上表示,目前的人形机器人没有 " 大脑 ",没有能在现实世界中导航的智能,而且非常昂贵且产量低。如今,OpenAI 与人形机器人的牵手则让人期待。

高盛:全球将有三亿人失业

据红星新闻报道,ChatGPT 迭代升级的脚步加快,很多人失业的恐惧也越来越重。高盛分析师布里格斯和库达尼在 3 月 27 日发布的研究报告中就直面了这一问题。

报告称:" 最近出现的生成式人工智能将降低劳动力成本和提高生产率。尽管 AI 的潜力存在很大的不确定性,但它可以生成与人类创造成果无法区分的内容,并能打破人机沟通障碍,反映出具有潜在巨大宏观经济影响的重大进步。AI 不仅节省劳动力成本,还能创造新的就业机会以及提高在岗工人的生产率。AI 的革命性就像早期通用技术(如发电机和个人计算机)一样能为社会带来繁荣。"

图片来源:视觉中国

ChatGPT 等生成式人工智能系统的最新突破,料将给全球劳动力市场带来重大颠覆,全球预计将有 3 亿个工作岗位被生成式 AI 取代,律师和行政人员将是最有可能被裁员的岗位。

高盛研究发现,目前欧美约有三分之二的工作岗位都在某种程度上受到 AI 自动化趋势的影响,而多达四分之一的当前岗位有可能最终被完全取代。该研究计算出美国 63% 的工作暴露在 "AI 影响范围 " 中,其中 7% 的工作有一半以上的流程可以由 AI 自动化完成,这使他们很容易马上被人工智能取代。在欧洲,情况也差不多。

据 21 财经,作为一种具备生产创造能力的智能形态,以 ChatGPT 为代表的 AI 近年来展现出令人瞩目的文字、图像、声音的生成或辅助生成能力,也不断刷新着人们对于 AI 最终取代绝大部分人类工作的担忧。

更为关键的是,当前的 AIGC(人工智能生成内容)无需工资,亦不存在失业的概念,作为提供生产力的经济单位,其与宏观经济间的逻辑关系较人类发生了根本性改变,而这或许将给经济环境带来难以估量的影响。

sd2022 发表评论于
所有现代科技,如被一些邪恶集团掌握来对付百姓,就是灾难。技术越先进,危害越大。有人认为AI可以帮你干活,所以是好东西,但如果没有很好的约束机制,对普通人来说,AI就是代替你和控制你的工具,不是帮助你的。
泥川 发表评论于
OpenAI没有所谓AI大牛,得过这奖那奖,图灵奖啥的人。就是靠年轻人的敢想敢干,错了再试。平地一声雷,靠出了个ChatGPT。把一些人震晕,大概也堵了一些人的路。酸葡萄心理不能说没有。
泥川 发表评论于
靠人喂的知识,AI可以帮助人做事,不过创造知识,把知识转换成物质世界的改变,只有人能做到。AI发展还路漫漫, 哪能一道禁令就让它停摆了。

AI的问题只有更好的AI能解决。只有继续开发,大规模使用,才能真正发现AI可能造成的问题,也才能给AI的新发展找到方向。
不允许的笔名 发表评论于
春风春雨88 发表评论于 2023-03-30 00:52:46
今后逼真人形机器人配上GPT后,估计就会接近真人了。100年后,大街上GPT 机器人和真人同时共存。 找不到真人老婆,可以定制GPT老婆 。。
=========
GPT老婆就是铁链女,把你按强奸罪处理。
getstarted 发表评论于
在Chat GPT没有聪明到改进自身代码之前,没什么好担心的。
kingsw 发表评论于
钱没了,这种烧钱的项目,每分钟都是海量,既然市场准备好了,就该是商业运作了。
城春草木深 发表评论于
AI+杀人机器人会不会杀死本人?或许有这个可能,那么在这个前提下如何控制才是重要的。
难为 发表评论于
在创新方面必须支持马斯克。国媒操得什么心?
弟兄 发表评论于
当然真正让两人结仇的还在后面。特斯拉推崇交流电,因为交流电成本低,可以把电力推广到千家万户,让人人都能用上电。而爱迪生的公司已经布局了很久的直流电,投入了很多钱,为了不让特斯拉抢走自己的市场,爱迪生开始了商业和政治操作,处处打压特斯拉。作为理工科生的特斯拉哪里是爱迪生的对手,很快被搞的破产,舆论也都在抨击特斯拉,爱迪生给不懂科学的民众表演高压的交流电如何瞬间电死大象

作者:白夜梦
链接:******zhihu***/question/20926563/answer/987769444
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
春风春雨88 发表评论于
今后逼真人形机器人配上GPT后,估计就会接近真人了。100年后,大街上GPT 机器人和真人同时共存。 找不到真人老婆,可以定制GPT老婆 。。。
novtim2 发表评论于
马斯克鼓动许多年轻人浪费时间电力能源去算一个毫无用途的HASH作为货币,居然说AI训练应该停止。尼玛良心何在,天理何在,你以为这世界就是任你捏的一个粪球???

春风春雨88 发表评论于
BeckyLin 发表评论于 2023-03-29 21:02:00
主要问题是人类还不能完全掌控AI,却让它拥有巨大的能力。
-----------------
人类完全可以掌控AI啊。也许会造成对人类个体的伤害,但是作为人类,太容易掌控它了,不就是一个超极计算中心,它要是与人类作对,电源拔掉它就死了。
偶偶地来一发 发表评论于
停吧,让百度去画鱼香肉丝。
tudoutudou99 发表评论于
马斯克是肠子都悔青了,当初要是没有退出,他就又挖到一个金矿。现在错过了,最好别人也别挖
BeckyLin 发表评论于
主要问题是人类还不能完全掌控AI,却让它拥有巨大的能力。