4

为了对抗世界末日,他造出了ChatGPT

 1 year ago
source link: https://awtmt.com/articles/3684361
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

为了对抗世界末日,他造出了ChatGPT

看天下 发表于 2023年03月19日 09:39
5155人阅读
摘要:是的,ChatGPT诞生的目标之一,就是避免AI毁灭人类世界。

无论山姆·奥特曼走到哪里,总是随身背着一个蓝色背包。

在一种流传很广的说法里,这个战术背包相当于美国总统便携的核武器发射指令装置,可以直接连接OpenAI公司的核心数据库。一旦奥特曼察觉AI产生了自我意识,开始消灭人类时,他就可以通过这个背包发出秘密指令,让数据库自毁。

虽然很多人向聊天机器人ChatGPT求证这个传言的真实性,ChatGPT也一次又一次地否认,但越来越多人还是选择相信这个传言,毕竟奥特曼创办OpenAI时就认真地考虑过这个风险。

是的,ChatGPT诞生的目标之一,就是避免AI毁灭人类世界。

退学创业但不是你想的那样

1985年4月,奥特曼出生于美国芝加哥的一个犹太家庭,并在密苏里州圣路易斯长大,从小生活优渥。

8岁的时候,父母送给他的生日礼物是苹果的MAC LC2电脑。这是一款1992年上市的电脑,发售价1699美元,相当于现在的2.2万元人民币。即便是对于中产家庭来说,这台电脑也妥妥是一件奢侈品。

MAC LC2内存是4MB,硬盘只有40MB,放到现在完全不值一提,但奥特曼在当时将其视如珍宝,放在自己卧室里,从此走上了码农之路。

“我的人生可以分成两部分:有电脑之前和有电脑之后。” 接受《纽约客》采访时,奥特曼回忆道。

2001年,奥特曼前往圣路易斯的约翰·巴勒斯学校就读。这是一所顶尖预科学校,《华尔街日报》曾将其列入向常春藤输入学生最多的前50名高中之列。

作为一名同性恋少年,奥特曼丝毫不顾及美国中西部相对保守的环境,策划了一场赞同同性恋行为的集会,遭到基督教团体的抵制。一怒之下,奥特曼反而在学校向所有人公开了自己的同性恋身份。

“山姆所做的事改变了学校,”他的大学辅导员玛德琳·格雷接受采访时说,“感觉就像有人打开了一个大盒子,让各种各样不同的孩子来到了这个世界。”

像很多著名的创业者一样,奥特曼考入斯坦福大学计算机专业。在大二,奥特曼着手创业,与两个同学一起写了个手机App——Loopt,用途是与朋友分享位置信息。

Loopt很成功,斩获3000万美元的风险投资,前途一片光明。随后,3人一起退学了。

目前还不清楚另外两名同学的退学原因,但对于奥特曼来说,离开斯坦福倒不是因为Loopt大获成功,也不是像乔布斯、盖茨和马斯克那样,对学校感到厌倦,而是因为患上了坏血病。

这种病是身体缺乏维生素C导致,在现代已经非常罕见,美国每年的病例还不到一万例。不过成年之后的奥特曼似乎已经痊愈,现在经常骑车两百公里,引体向上一百个也不在话下。

离开斯坦福之后,3人带着Loopt进驻Y Combinator。这是美国最著名的初创企业孵化器,可以说没有之一。到目前为止,YC已成功孵化4000多家公司,包括大名鼎鼎的Airbnb、Quora和Reddit等。

与Reddit一样,Loopt是最早进入YC的8家企业之一,但并不算争气,虽然估值一度达到1.75亿美元,但很快陷入用户迅速流失的困境。所幸在Loopt走下坡路之前,奥特曼就将其变现,以4300万美元的价格将其卖出。他也与确立伴侣关系长达9年的Loopt联合创始人尼克·西沃分道扬镳。

出人意料的是,奥特曼随后竟然得到了Y Combinator本身。

为末日生存做准备

Y Combinator的创始人保罗·格拉汉姆一直非常欣赏奥特曼。2006年,Loopt进入YC没多久,格拉汉姆就将奥特曼与比尔·盖茨相提并论,认为他是一位交易决策和战略思维的奇才。

随后格拉汉姆邀请他在自己的婚礼上做伴郎,又让他成为YC的首席创业讲师。2014年,格拉汉姆最终将YC整体交到年仅29岁的奥特曼手上。

奥特曼当上YC总裁后便领投了Reddit的B轮融资,还成为Helion和Oklo两家核能公司的董事长。在他手上,YC的初创公司一共创造出800亿美元的市值。

虽然人生好像开了挂一样,但奥特曼一直生活在焦虑中。他身为皮肤病专家的母亲在接受《纽约客》采访时称,奥特曼会担忧很多事情,“山姆经常打电话说自己头疼,他自己在谷歌上搜出很多绝症,我只能让他放心,告诉他你没有得脑膜炎或者淋巴瘤。”

一次聊天中,奥特曼对初创公司 Shypmate 的创始人说,“我在为末日生存做准备。”他认为,致命的合成病毒,叛变的人工智能和核战争,随时都会给人类带来灭顶的风险。

“我尽量不去想太多,”奥特曼当时说,“但我有枪支、黄金、碘化钾、抗生素、电池、水、以色列国防军的防毒面具,还有一大片土地在大苏尔(加州旅游胜地),我随时可以飞去那里迎接末日。”

也出于这个目的,2015年,他和马斯克共同创立了OpenAI,他们对这家非营利性人工智能公司的期望是确保人工智能不会消灭人类。

2014年10月,马斯克在麻省理工学院接受采访时,将人工智能描述为我们“最大的生存威胁”。他说,“有了人工智能,我们就在召唤恶魔。” 他担心人工智能的进步可能会损害而不是造福于人类。“总是存在一些风险,即在实际尝试推进人工智能时,我们可能会创造出我们不想见到的东西。”马斯克说。

奥特曼和马斯克有着相同的理念,对他来说,如果未来是个威胁,那么消灭威胁的办法是自己掌握未来。在OpenAI成立的发布会上,他表示,“幸运的是,我们这里的专家都知道怎么做才对人类最有利。”

OpenAI的初始投资是10亿美元,首席科学家是原谷歌机器学习专家伊利亚·苏茨克维尔。从某种意义上来说,苏茨克维尔才是真正的ChatGPT之父,他出生于以色列,成年后移民到加拿大,在多伦多大学拿到了计算机硕士学位。在加入OpenAI之前,苏茨克维尔曾经参与过谷歌的AlphaGo项目,在围棋竞技上取得突破性进展,接连战胜了人类最强棋手李世石和柯洁。

2015年7月, 苏茨克维尔在一个晚宴上遇到了马斯克和奥特曼,当时他们讨论了人工智能的前景,3人一致认为:人工智能必须以人类安全为第一要务,所以其研究机构也必须是非营利组织。怀着相同的理念,苏茨克维尔加入了OpenAI。

在旧金山一个不起眼的办公室中,OpenAI在短短几年里就取得了惊人的成就。

公司创建了名为 Universe 的软件平台,用于测量和训练游戏AI 系统;还创造了 AI 玩家,在复杂的 Dota 2 游戏中的表现优于全球 99.95% 的玩家。他们引领机器人技术的研究,让机器人能得心应手地做家务;2019年,OpenAI推出的大型语言模型GPT-2爆发出惊人的语言天赋,并且特别擅长编写假新闻。

除此之外,OpenAI的同僚们最关注的还是确保人工智能对人类是安全的,公司花了两年的时间来研究,如何让最先进的机器学习系统不会失控。

但在OpenAI接连取得突破之际,马斯克与奥特曼之间爆发了理念冲突。

硅谷的王中之王

2019年,马斯克在推特上表示,自己不同意OpenAI 团队想做的一些事情。2020年,他进一步解释了“分手”的原因——马斯克并不同意OpenAI的保密文化,他认为这与非营利组织声称的透明度承诺背道而驰。

马斯克的离去并没有让OpenAI的脚步停下来。2019年末,OpenAI宣布摆脱非营利组织的地位,并获得微软的10亿美元投资。

微软在一篇博文中表示:“通过 GPT-3 模型可以释放的商业和创意潜力的范围是深远的,具有真正创新性的功能——其中大部分我们甚至还没有想象到。”

事实证明,这10亿美元是微软近十年来回报最大的投资。

2022年2月,苏茨克维尔在推特上声称,他们研究的人工智能已经有了人类意识。这个人工智能就是GPT-3的超大规模神经网络,由 1250 亿种参数语言组成,用于处理翻译、问题解决和缺失数据补全。

当时很多研究人员都认为苏茨克维尔言过其实,昆士兰科技大学数字经济中心专家 Marek Kowalkiewicz 表示,我们本来也不知道人类意识是什么样子。其他专家学者也抨击道,AI 中的人类意识概念只不过是炒作而已,无论怎么发展,AI都不可能产生意识。

ChatGPT的表现证明,这些专家错得很厉害。

2022年11月底,ChatGPT一经推出迅速走红,5天迎来百万注册用户,并在两个月内获得了一亿用户,成为有史以来最受欢迎的互联网产品。2月7日,微软发布了由ChatGPT和GPT-3.5模型提供支持的全新搜索引擎必应Bing和Edge浏览器,市值一夜之间暴涨800亿美元。

微软的老对手谷歌如临大敌,CEO皮查伊连续牵头召开会议商讨对策。在会上,谷歌高层将ChatGPT称作“红色警戒级”的对手,甚至连两位创始人拉里·佩奇和谢尔盖 ·布林也出席了会议。会后,谷歌迅速推出了自己的人工智能产品Bard,但由于过于匆忙,在发布会的对话上出现事实错误,反而导致股价下跌。

获得巨大成功的奥特曼现在被称为硅谷的王中之王。他在各大媒体的采访中语出惊人,称ChatGPT这样的通用人工智能可以打破资本主义,帮助人类找到更好的经济模式。

然而突飞猛进的人工智能技术正让无数人陷入深深的担忧。许多行业担心AI将取代自己的工作,还有些专家指出AI系统缺乏完善的监管和责任制度。

似乎是出于安抚众人情绪的考虑,奥特曼近日又表示,他相信人工智能会让很多人变得富有。他在一条推特中将人工智能称为“经济赋权的最大力量”,以及技术进步可以“让很多人致富”。

对于奥特曼自己来说,他接下来的梦想是制造一个人工智能城市,很可能在美国之外。那里有完善的人工智能城市设计,比如只允许无人驾驶汽车在道路上通行。

“十万英亩的土地,5到10万的居民。所有人都从事科学研究,不允许从房地产获利。”他在博客上写道。虽然只是个粗浅的想法,但奥特曼已经开始找寻潜在的合适地点了。

这座城市也会成为奥特曼面对人类末日的抵御手段——一个建立在人工智能之上的,21世纪的雅典城。它会成为服务精英的,带着围栏的社区,一个隔绝外界混乱的堡垒。

奥特曼的终极目标,是利用人工智能建造一个股份制国家,每个人都拥有国家的股份,可以用各种方式入股,用金钱,用土地,聪明人则可以“用创意入股”。

“股份制公司是人类历史上最重要的发明之一,每个人都拥有国家的股份,将创造一个运转得更好的社会,提高社会凝聚力,并激励每个人思考如何做大整个蛋糕。”他在博客中写道。

也许这就是他设想的末日之后,人类重建的文明社会。

打工人被震撼了。

本文作者:陈劲松,文章来源:看天下杂志,原文标题:《为了对抗世界末日,他造出了ChatGPT》。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK