大智网汇
综合信息情报站

Web3 Young OG Developer徐可:AI治理迫在眉睫

2月9日晚,Web3知名资深开发者徐可与多位行业大佬和KOL就近期大火的ChatGPT开展了一场推特Space,引发众多知名业内KOL激烈讨论。

徐可何许人也?Montverde Academy毕业,19岁跳级毕业于UCL伦敦大学,中欧CEIBS校友。被福布斯美国称之为“中国Blockchain第一女企业家”。

她擅长P2P技术、微服务架构高并发同步技术,精通GRAPHENE技术,深入研究POW、POS、DPOS共识技术。同时她也是中国最早BTC矿工之一,曾持有 2 万枚BTC、成功投资、孵化区块链项目 30 余个。EOS早期生态投资人 、ETH生态第一批智能合约实践者。

e4592d87c3c435696300aa1ba6c97861.jpg

早在2014年徐可第一次创业时,她已经通过查看Openai代码库的方式,深刻地了解了这家公司,所以对于ChatGPT,徐可有着独到的见解。徐可认为:“ChatGPT火爆背后是认知智能技术的一次飞跃,或将成为人工智能行业发展的里程碑和分水岭。且ChatGPT有更多的商业价值和大行业前景,因为它能够提供更多工作岗位和商业机会,例如输入文本生成图像、根据需求迅速写出代码、创造更成熟的文案等。”

3ae5fdb41d030bec91cce033d2899ac3.jpg

Openai 代码库曾号称永久开源,并且不会用于商业盈利。现在看来,Openai违背了他们的初心——核心代码库早在 2016年就停止了开源。且Elon Musk也曾是Openai的联合创始人之一,但其与Openai管理层理念不合,在2019年退出了Openai公司,并在接管推特后终止了ChatGPT 和推特的学习连接。

虽然ChatGPT具备强大的学习能力,但由于其核心代码目的不明确,这不禁会让人联想到霍金曾提到过的奇点降临,“一旦人工智能跨过了与人类智慧相同的“奇点”( Singular Point ),我们可能会面临“智慧爆炸”(intelligence explosion),届时,人工智能在智慧上超越人类。这对人类产生的影响,要么就是最好的,要么就是最糟糕的。它既可能让人类永生,也可能让人类毁灭”。

徐可认为:“ChatGPT在受到热议的同时,也遭到一些质疑,比如Eloquent、能言善辩、夸夸其谈等。正是因为这些特性,当奇点降临时,AI可能不会第一时间通过战争的形式打击人类,而是在社交媒体散布虚假、恐怖信息等方式引起人类的恐慌和社会秩序的混乱。”

正因如此,徐可补充说:“AI的治理迫在眉睫,且我们需要重点关注两个方面:

第一,控制AI的自我编译能力。一旦奇点降临,AI掌握了自我编译能力,就意味着AI将突破人类对其的限制,这会导致计算机软硬件可以自动演进、爆发式成长等,届时,AI将彻底失控。

第二,筛选AI学习的信息源。如果AI学习的信息源过于反人类,这会导致社交媒体上有过多的反人类信息被传播,会对认知较低的人群产生毁灭性的危害。如果再被利用到人类的派系斗争中,AI极有可能被培养成战争机器。”

40e40002ba78e878c09897bd7bfbe103.jpg

嘉宾提问:未来如何区分人类和AI?

徐可认为:“或许可以通过与去中心化社交结合的方式来解决。就热门的Nostr协议来说,由于使用的是公私钥体系、Client和Relay完成社交的去中心化,如果添加一个去中心化钱包,即可区分出人类与AI的区别。因为AI只能拥有公私钥,且无法持有有价值的Token,这一方法可以在一定范围内避免AI的危言耸听,同时也可以参考这个思路,创造出更多的AI治理模式。”

赞(0) 打赏
以上内容(如有图片或视频亦包括在内)为自媒体平台用户上传并发布,未作人工编辑处理,不构成投资建议请自行甄别,也不承担相关法律责任。如果您发现有涉嫌版权的内容,欢迎发送邮件至:wolfba@qq.com 进行举报,并提供相关证据,工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容!

大智网汇

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 wolfba@q.com 举报,一经查实,本站将立刻删除。

投稿&软文功效网

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

微信扫一扫打赏

登录

找回密码

注册