淘姐妹

淘姐妹

“我们从未与通用人工智能如此接近”,复旦黄萱菁解析ChatGPT

电脑 0

淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】

黄宣菁 复旦,黄宣国复旦大学,黄萱菁 复旦大学,复旦大学黄萱菁教授
“我们从来没有觉得自己与通用人工智能如此接近,这是我从事人工智能研究这么多年以来最兴奋的时期,”在昨晚举行的复旦科创先锋论坛上,复旦大学计算机学院教授、博士生导师黄萱菁如此形容【【微信】】横空出世后她的心情。作为国内最早从事人工智能、自然语言处理和信息检索的学者之一,她做出的判断是:AI可能会像工业革命和信息革命一样,引领我们走向下一个时代。
活动现场,黄萱菁发表了主题为“迈向大规模语言模型”的演讲,她从语言模型的定义开始娓娓道来:“语言模型就是语言的规律。首先是语法,我们无论学习汉语还是英语等语言,都是从语法开始学起,但是光有语法,我们依然很难捕捉客观世界纷繁复杂的语言现象,因为语言并不会严格按照语法去表达。这个时候,我们就需要使用到数学‘武器’――概率,在各种语言现象中间去寻找规律。如果通过对句子进行概率分析,我们就能知道什么是正确的识别结果。这个概率模型就称为语言模型。”
由于句子在诸多情景下可能包含巨大的词汇量,导致传统概率语言模型所需的计算资源爆炸式增长。所谓大规模语言模型就是含有巨量参数,能够接受很长一段时间窗口的语言文字。2017年开始出现了一个模型叫做Transformer,成为现在预训练模型的基石,也是大规模语言模型的基石。
据黄萱菁介绍,传统的预训练模型有两种思路,第一种思路是以BERT为例的理解模型,另一种思路是以【【微信】】的前身GPT为代表的产生式模型。当然也有一些工作尝试把理解模型和产生式模型结合起来。曾经很长一段时间理解式的模型被使用的比较多,而产生式模型则需要更高的算力和更长的窗口,一直到有了GPT-3之后,大家才知道它如此之强悍,而【【微信】】还拥有了很强的理解人类上下文的能力。
“我们生活在一个飞速变化的时代,每个礼拜都有新的模型发布,预训练+微调的方式是前【【微信】】时代的范式,诸如Google、Open AI这样的大厂商将自身开发的大模型开源,供下游应用者在这些模型上进行参数的微调,以取得优异的表现。”她表示,当语言模型变得更大的时候,一方面厂商出于商业原因逐渐舍弃开源,另一方面用户也缺乏足够的计算资源使用大模型,“这样的情况之下,一个新的范式最终横空出世:利用大规模语言模型的涌现能力。当模型的参数规模还不太大的时候,你看不到它的强大,当达到某一个临界值时,这个模型就会非常强大。”
记者了解到,作为【【微信】】背后的核心技术,大语言模型可以展现出强大的学习能力。而现有研究表明,模型规模和数据量越大,性能越好。当模型和数据规模达到一定程度时,模型将获得涌现能力。
拥有强大能力后,【【微信】】究竟会给我们带来哪些改变?微软CEO萨提亚・纳德拉接受媒体采访时曾说,内燃机带来了廉价的动力,互联网技术减少了信息传递的成本,而【【微信】】会让信息的整合、转译、流通变得更加廉价。
在黄萱菁看来,【【微信】】可以视作是人工智能的基座,就像“大脑”一样,“在肉眼可见的未来,善用AI的人将和不用AI的人在工作效率上会产生巨大差距,因此我鼓励大家多去使用和熟悉与AI进行沟通。在未来一段时间内,【【微信】】还不足以完全替代某一个岗位,但将大大促进各个领域的生产效率,我们希望AI是帮助人类的工具,而不是取代人类的机器。”
她同时表示,“我们发现【【微信】】能力现在的强大性能都是在现有的机器学习框架下可以解释的,并没有一些很玄的东西,我相信今年除了OpenAI,国内外会有很多机构,包括大学和企业等,在【【微信】】模型方面会有大的突破。”
作者:唐玮婕
编辑:朱伟
责任编辑:戎兵
*文汇独家稿件,转载请注明出处。


chartgpt 瀹ゆ俯瓒呭 浠巆hatgpt鍒板娓╄秴瀵间綋

chart官网
投资快报
2023-03-10 10:08 ・广东

《科创板日报》3月9日讯(记者 敖瑾) 继ChatGPT之后,大洋彼岸科技界的最新进展,又引发了国内资本市场的狂欢。

罗彻斯特大学物理学家Ranga Dias 8日宣布,在近环境压强下实现了室温超导。3月9日,超导概念股开盘大涨,百利电器等一字涨停,而高开的西部超导则在盘中震荡走低。

与资本市场的狂热形成对比的是,学界和产业界对室温超导持审慎态度。

上海高温超导重点实验室主任、上海大学教授蔡传兵今日表示,这次Dias展示出的研究成果有一定可靠性,但室温超导所需的1GPa压力仍属于高压范畴,距离实际应用仍非常遥远。

商业聚变能开发企业星环聚能CEO陈锐亦对《科创板日报》记者表示,Dias的成果还要通过其他科学家的重复实验,且1GPa的超高压条件仍非常严苛。“即便实验结果最后验证为真实,在核聚变领域的使用而言,还需要特别关注两点,一是电流密度,二是抗中子辐射能力。

作为国内核聚变领域为数不多的商业化项目,陈锐进一步表示,乐见行业领域引发更广泛的社会关注。“项目在创业早期融资其实并不容易,因为这确实是一个发展周期较长的事。行业热度起来了,吸引更多投资方和地方政府的支持,对行业发展有积极意义。”

引发全民关注,学界业界保持审慎

Dias的实验结果,除了在大洋彼岸引起了物理学界的巨大震荡外,在国内也引发了社会各界的广泛关注。资本市场上,A股相关板块开盘走高;舆论场上,室温超导的关键词冲上了微博热搜。

中科创星创始合伙人米磊对《科创板日报》记者表示,“超导、核聚变等前沿科技引发全民关注也是一件好事,会激励更多科学家、投资人等把更多资源投入到相关的领域。现在正处于上一轮科技革命的衰退期,需要找到新的技术方向去推动,而我们也认为超导和可控核聚变就是新一轮科技革命的重大方向 。”

但米磊亦表示,Dias的实验仍需要进一步的重复验证。而这也是学界和业界对该成果的普遍看法。

星环聚能CEO陈锐对《科创板日报》记者进一步表示,Dias的实验成果除了需要得到进一步的验证外,从应用的角度看,还需要关注电流密度、抗中子辐射能力等要点 。“仅就核聚变使用来说,我们还特别关注两点,第一是电流密度,第二是抗中子辐射能力。因为从低温超导到高温超导,超导材料的电流密度确实是在增加的,但从高温超导再到室温超导是否还会延续之前的规律,这个目前还说不准。”

陈锐表示,若各方面条件均满足,将极大缩短可控核聚变实现的时间。“能实现室温超导,且保证电流密度以及抗中子辐射能力,确实能降低可控核聚变整个装置的成本,以及设计难度,从而提升我们把这件事做成的概率。但从科学家团队目前公布的结果看,室温超导离工业化还是有相当的距离的。”

其表示,目前公众理解或存在误区,“如果是大家预期所理解的常温常压的超导,那确实是值得当前这种程度的热度,对整个磁约束核聚变方案都会是极大的推动和利好,但这次的室温超导还是需要一个1GPa的超高压条件。”

上海市高温超导重点实验室主任、上海大学教授蔡传兵今日在接受媒体采访时亦表示,Dias的研究成果,把原来所需的极端高压267GPa变成了一个相对低的压力1GPa,但1GPa仍然属于高压的范畴,暂时没有大众期待的那么实用。

前沿科技期待更多“耐心资本”进入

星环聚能成立于2021年,主攻聚变能商业应用及相关技术研发,专注小型化的可控聚变装置。去年6月,该公司宣布完成数亿元规模的天使轮融资,投资方包括顺为资本、红杉中国种子基金、险峰K2VC等多家知名机构。今年1月,公司宣布完成Pre-A轮,投资方为水木清华校友基金。接近星环聚能人士表示,“全球现在商业可控核聚变企业一共20多家,星环聚能的融资额在这其中都不算少的。”

但陈锐告诉记者,星环聚能所在的可控核聚变领域技术门槛很高,“需要向投资人准确地阐释我们要做的事,让他们清楚了解公司技术和产品化方面的各项进展情况,另一方面核聚变商业化落地确实是一件相对长期的事,但同样这个行业的技术和资源壁垒也足够高。比起短期内的经济利益,我们更关注这项技术的长期价值。在这个过程中,我们也遇到了和我们有共同理想和追求的投资人,可控核聚变这个赛道被更多产业方、投资方所关注、支持。”

陈锐表示,星环聚能目前正进行公司五年规划的第一步,“公司的第一代装置目标是验证整个专利的原理,现在的进度是这套装置已完成从设计、建造再到安装的流程,即将开始尝试放电实验。”第二步涉及的第二个装置,建成加安装则或需要到2025年。

中科创星也参与了星环聚能的天使轮投资,作为一家关注早期硬科技项目的机构,米磊表示,目前国内仍缺乏长期投入的社会环境。“可以看到,美国在科技领域的突破都不是一天两天就做出来的,所有都是靠长期积累,才有我们今天看到的突破。反观国内,时常会有这种长时间不见突破然后中途放弃的情况,最后过了十几二十年,别人突破了,我们再捡起来,那这样就只能永远跟在别人后头。”

米磊呼吁有更多“耐心资本”进入硬科技领域。“未来想要获得更大的回报,就需要投长期投硬科技。硬科技是中国未来发展最重要的一个主题。”

《科创板日报》记者注意到,因室温超导而在今日引发大量投资者关注的西部超导,成立于2003年,于2019年登陆科创板。上市前,该公司曾获得来自深创投、光大金控、陕投成长基金等机构的投资。其中,深创投最早在2009年就投了西部超导。据执中数据,截至目前,在一级市场陪跑10年的深创投,在对西部超导的投资中收获了超11倍的回报。

资料显示,目前,超导产业链上游为原材料,如铌、钛、钇、钡、铋、锶、硼等金属材料,中游为超导材料相关公司,如江苏中天科技、特变电工、西部超导、青岛汉缆、北京英纳超导等,下游为超导设备应用。

《科创板日报》记者注意到,2020年,上海集中签约了152个项目,涉及总投资额超过4400亿元,其中就包含一个超导材料项目上海国际超导总部,涉及投资额15亿元。

来源:科创板日报

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。