对chatgpt的见解 对于chatgpt的发展有什么感想
淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】
声明:鄙人偏见甚多,观察角度甚窄,喜欢思想观点碰撞,望从中摒弃偏见,撑开视角。若有幸在此赛博空间相遇,望阁下不吝赐教。
在ChatGPT发布后,各路人马涌入体验,下面是我于某天实验室同学用它搜专业问题之后的一些想法。
在ChatGPT这种搜索整合能力强大的模型前,比起用它搜集资料,会问问题或许显得更重要。
首先来定义什么是会问问题。个人理解是,一个好问题,一定要抓住一个事物的关键点,直击要害的问题。
但想要提出这种问题的前提是有大量的知识储备,逻辑条理清晰,对事物及其相关者有足够清晰的概念,这样才能问出探索知识边界、具有思考价值的问题。
所以GPT的出现不是说让我们不用记忆一些概念,模型,要知道的时候随手一搜就能得到。反而,想要让GPT发挥其真正作用,问的问题尤为关键。
这要求人类有更深层次理解事物的能力,GPT只起到传递信息的作用,当前,在这种情况下,它能传递的信息是有边界的,这个边界是人类认知的边界,也是一些社会准则,道德约束的边界。
从这个角度来讲,GPT对于未来发展的作用可能是促进人类思考,且是更深层次的思考。它可以帮忙解决一些日常的问题,困惑,但这些问题不论是对于人类认知发展还是对于模型迭代都效果都微乎其微。
站在商业角度,用于娱乐或者简单搜索工具是其一部分价值。但放在长远发展角度来看,促进人类认知,可能才是它真正的使命。
因为人类从来没有像这样和有些陌生但又在同一语言体系里的可反馈对象进行过深入对话。
它确实是诞生于人类文明之上,但又因为我们不能完全理解其内部的所有运作细节,这表示它的反馈模式存在概率问题,而这个概率又不能被人为完全控制,所以人类和它的对话中有一层神秘色彩,我们会担心这抹色彩之下是否有其自主意识,人类总是对于不能完全理解并控制的事物充满了好奇,恐惧和征服感。
甚至于,人类为了理解同类,发展出了各种心理学。
ChatGPT也像一面镜子,它反馈的认知程度很大意义上反映了问它问题的人的认知程度。如果只有学童向它提问,它所关注的知识面将会停留在学童阶段,如果一个社会学家向它提问,那么它的关注点则更偏向于社会学。当然在模型发布之前我们可以让它学所有方面所有学科的内容。但如果后面它要在应用过程中不断去自我完善,那么与之对话的人类则更像是它的老师。
另外,如果模型会发展出个性化,比如说从一个孩子具备基本的认知能力之后就为他配备一个专属于他的对话模型,并且这个模型会伴随他成长。那么在这过程中模型也会自我成长,当然它的角色和定位是小主人的助手或者陪伴者之类的,这样若干年以后小男孩成长为中年男人,那么他的对话模型也成为了很具有他个人风格的“中年”模型。
以上。
gpt4芯片有多少个
图片来源@视觉中国
钛媒体注:本文来源于微信公众号芯谋研究(ID:chatgpt),钛媒体经授权发布。
GPT让英伟达的A100成为关注热点,但据了解,国内为数不多的A100芯片,用来做量化交易的比研究AI的要多得多。这是因为所有人包括OpenAI和微软,都对AI技术的突破始料未及,就连刚公布的Office Copilot也仅仅研发了两个月就现炒现卖。要说对AI突破最认真,最超前的预判,全世界要数美国对中国AI的限制禁令。
早在2022年10月,美国就禁止任何中国企业获得先进GPU。GPT的横空出世验证了美国“高墙小院”的“先见之明”,也可以说是美国硅基围墙第一次面对未知的重大创新发挥了“围栏”作用。此前的所有对华制裁都是限制已知的先进技术,现在这堵围墙把没有看到创新也禁止了,一定程度上可以说这道硅墙已经竣工或者接近竣工。
为了限制地球文明的科技进步,三体发射超级粒子锁死了地球科技。如何在中美不确定的技术竞争中获得确定的优势,美国人的办法与三体类似:利用确定的芯片优势,锁定不可预知的中国技术突破,消灭与中国科技竞赛中的不确定性。这让人对奥巴马是《三体》深度粉丝的往事,产生无限遐想。
我们的创新之灯被拉灭了吗,美国芯片禁令如何影响中国AI?
2022年10月7日,美国以英伟达的A100GPU(算力大于或等于4800TOPS,I/O带宽大于或等于600GB/s)为基准,限制中国获得性能等于或大于A100的芯片。
A100是英伟达于2020年5月发布的产品,用7nm制程制造。2022年3月英伟达发布了更强大的H100,采用4nm制程,其内核数量是A100的2.5倍,浮点计算和张量核心运算能力也随之翻了至少3倍。做AI计算时,搭载优化引擎,能让大模型训练速度直接×6。而英伟达新一代GPU又已经在路上了。
算力是实现算法突破的基础,算力不断进步,GPT才能迭代。但国内就连A100和V100等英伟达的老一代产品都无法继续采购。国内GPT要发展,只能依赖原有的基础设施。微软为了训练chatgpt用上万张英伟达A100芯片打造了一台超算,甚至专门为此调整了服务器架构,只为给chatgpt和新必应AI提供更好的算力。而且微软正在用最新的H100和网络技术推出AI虚拟机,在Azure的60多个数据中心部署了几十万张GPU。
这个制裁为中美AI竞赛定下基调,即便中国AI企业与OpenAI同样优秀,但在关键算力的差距已经是云泥之别了。
AI芯片的限制,是先进芯片制造之后美国重点盯防的领域,相比一般芯片,AI芯片限制得更加严厉,所有中国企业不得进口先进AI芯片或者让别人代工先进芯片。这是前所未有的严苛,在此前没有被制裁的中国企业可以买到先进GPU,但现在所有中国企业被限制。国内很多AI芯片设计企业更是悲观,即便自行阉割芯片的性能,降低到A100之下,也很难获得代工。
在GPT大热之后,世界经济论坛预测,GPT式的人工智能可以产生数万亿美元的经济价值。如此一来,中国AI将更受关注。目前美国的AI限制并不包含云服务,据FT报道,美国的一些云服务公司最近发现,来自中国租用美高算力云的业务突然激增,美国商务部的工业和安全局正在对此展开调查。业内专家也认为租用海外云服务,在安全和成本方面有很大隐患。
在GPT爆发之前大家没有意识到问题的严重程度,当GPT成为有望开启未来的重磅创新之后,大家才明白美国的对AI的制裁是多么的意味深长。正如美国智库所言:人工智能技术是未来,美国和美国的盟友正前往那里,但中国不能去。
在此之前,半导体的自立自强只是发展好坏的问题,但现在AI爆发,半导体的自立自强已经是能否跨进未来大门的问题,会不会与新时代脱节的问题。我们必须要有时不我待的紧迫感,GTP短短两个多月就迭代出远超上一代的版本,中国半导体的自立自强更要加速了。
在神经绷紧之余,我们也不要觉得天要塌下来了而乱了阵脚。这些年很多科技,如移动互联技术、超级动力电池并非在国内原创,但新技术应用的爆发更多是在中国,互联网应用和新能源车率先在中国形成市场。这种西方不亮东方亮不是偶然,因为中国市场有喜欢尝鲜的活力,巨大制造业和人口规模提供了丰富的应用场景,中国也有充裕的风投资本。阿里达摩院分析GPT领域有非常多的细分应用,应用落地是我们的强项。这一次应该也不例外。
最近这些年哪一次重大创新出现后,我们不是一副惊为天人的样子,但每一次我们都紧紧跟随,至少在最近这些年的重大技术突破上我们并未掉队太远。人工智能专家吴恩达提醒人们,不要患上错失恐惧症(fear of missing out),chatgpt这类技术将对人工智能产生变革性的影响,但它们远不是唯一重要的东西。
GPT如此重要,GPU和算力又只能来自美国,必要的合作势还是要争取。李强总理强调,中美可以合作、也应该合作,中美合作大有可为。目前似乎也正在出现一些微妙的变化。
GPT的出现,证明了硅基围墙达到美国人的设想。尽管美国人对中国的仇视依然存在,但已经没有5G失守时那种全体“同仇敌忾”级别的癫狂。这几年对中国的持续制裁,客观上满足了美国人限制中国的饥渴感,消除了对中国技术突破的不安全感。从需求层次来看,饥渴感和安全感被满足之后,剩下的只是情绪层面的需求,继续制裁中国的动机已经不如以前那么强烈。
从利益上来看,继续制裁中国半导体的边际效应将越来越低。在这种情况下美国内部出现了不同的声音,尤其美国在要么通胀要么滞胀之时,繁荣的中国市场和物美价廉的中国制造对美国越来越重要,美国内部反对脱钩的声音也就越来越清晰。美国研究中国经济政策的权威斯科特·肯尼迪在2018年为推动对华制裁撰写了《中国龙的学习曲线》的报告,极言中国科技进步之速,但最近他又撰写了《超越脱钩:赢得与中国的高科技竞赛》的报告,来劝说政界在不脱钩的情况与中国竞争。尽管在美国大选之前,会有各种极端情况出现,但美国制裁中国的深层次动能在减弱,或许中国半导体的至暗时刻距离触底之时不远。
我们不能寄希望于美国人的神智清明与否,但也要做好准备,捕捉任何可以合作的机会,积极总比消极有用。
AI的突破再次证明芯片是科技进步的基石,软件进步从来离不开硬件支持,软硬合流的趋势将原来原明显,中国科技企业无论软硬,越来越紧密地被集结在芯片自立自强的大旗之下。GPT的快速进化加重了我们半导体自立自强的急迫性。或许有人认为缓不济急,但芯片这关一日不过,我们一日受制于人。没有芯片自立自强,今天失去星星,明天可能就要失去月亮。在此新形势下,我们必须更加专业务实,全面统筹,早日拿出对策。