ai可能出现的问题 ai的操作历史
文/f.chen @真格基金
107 个值得关注的Twitter
107 People to Follow on Twitter
为什么是 Twitter？
想到 AI，我脑海中第一时间跳出的社交平台是Reddit、【【微信】】 和 Twitter。一直以来，这三个平台都以三种完全不同的方式参与着「关于 AI 的对话」，今天让我们从 Twitter 开始。
Twitter 为什么重要？
AI 领域的许多书籍作者、企业决策者和工具开发者经常使用 Twitter 并在此发表言论
Twitter 聚集了大量的天使投资人、风险投资人和记者，他们源源不断地提供着有价值的背景信息
因此，在 AI 的一波波浪潮中，Twitter 始终拥有着自己的「寓教于乐的小世界」。但2022 年，ChatGPT 的诞生让 Twitter 在这场 AI 热潮中显得尤为重要―― 人们在 Twitter 上大量分享他们使用这个工具的过程，关于 Generative AI 和 GPT-3 /3.5 的看法及围绕它们而产生的行为 ―― 无论炒作与否。
该关注谁？
在我看来，如果对 AI 充满热情，我们首先需要一个包含本领域记者、作家、决策者和公司的组合
理想情况下，这其中既有女性也有男性，既有成熟的意见领袖也有年轻的研究人员或不完善的观点，既有批判性的记者也有意见多样的风险投资人
我们需要更多讨论技术与落地而不是炒作与投机，那么还需要有足够的风险资本、天使投资人和决策者来帮助我们了解行业新闻和现实问题。
但事实上，我们只能关注到其中的一部分人，这些是我关注列表中的一些，希望对大家有所帮助，也希望大家协助我一起补充。
本名单包括 - The list includes：
- 研究人员 - Researchers
-新闻工作者 - Journalists
-创始人 & 决策者 - Founders, Executives
-选择性的投资人 - Selective VC folk
-作家 - Authors
-AI 领域创作者 - A.I. Newsletter Niche Creators
1. Sam Altman (@sama)
- Foundetr of OpenAI
- Former president of Y Combinator
2. Yann LeCun (@ylecun)
- Professor at NYU
- Chief AI Scientist at Meta
3. Andrew Ng (@AndrewYNg)
- Co-Founder of Coursera
- Stanford CS adjunct faculty
- Former head of Baidu AI Group/Google Brain
4. Fran?ois Chollet (@fchollet)
- Deep learning at Google
- Creator of Keras
- Author of 'Deep Learning with Python'
5. Karen Hao 郝珂灵 (@_KarenHao)
- A.I. Journalist at WSJ
- National magazine award winner
6. Andrej Karpathy (@karpathy)
- YouTuber, Blogger, Influencer
- Pre【【微信】】t Tesla, OpenAI
7. Jürgen Schmidhuber (@SchmidhuberAI)
- Co-director of the Dalle Molle Institute for Artificial Intelligence Research
- He has been referred to as "father of modern AI" and "father of deep learning"
8. Sara Hooker (@sarahookr)
- Head of AI at Cohere
- Formerly Research at Google Brain
9. Demis Hassabis (@demishassabis)
- Founder & CEO of DeepMind and Isomorphic Labs
10. Sarah Guo (@saranormous)
- Founder of Con【【微信】】.I., Starup Investor
- Former partner at Greylock
11. Da【【微信】】 (@【【微信】】)
- Head of Prompt Engineering at 【【微信】】I
- Former Research Scientist at Google Brain
12. Lilian Weng (@【【微信】】)
- Applied AI Lead at OpenAI
13. Oriol 【【微信】】 (@Oriol【【微信】】ML)
- Research Director & Deep Learning Lead at DeepMind
- Led AlphaStar, AlphaFold, AlphaCode, WaveNet, 【【微信】】, etc
- Former research scientist at Google Brain
14. Michael Black (@Michael_J_Black)
- Director at Max Planck Institute for Intelligent Systems
- Chief Scientist at Meshcapade
15. Jeff Dean (@JeffDean)
- Senior Fellow & SVP, Google Research and AI
- Co-designer/implementor of software systems like TensorFlow, MapReduce, Bigtable, Spanner, etc
16. Ian Goodfellow (@goodfellow_ian)
- Research Scientist at DeepMind
- Inventor of GANs
- Lead author of http://deeplearningbook.org
17. Aakanksha Chowdhery (@achowdhery)
- PaLM Lead at Google Brain
18. Peter H. Diamandis, MD (@PeterDiamandis)
- Founder of Singularity Uni【【微信】】, Xprize, Fountainlife
- Entrepreneur, Investor and Author
19. Gary Marcus (@GaryMarcus)
- Author of Rebooting.AI & Guitar Zero
- Founder of Geometric Intelligence (acq. 【【微信】】) & RobustAI
20. Lucas Beyer (@giffmana)
- Researcher at Google Brain in Zürich
21. Sebastian Raschka (@rasbt)
- Author of Ahead of AI
- Machine learning & AI researcher
22. Cassie Kozyrkov (@【【微信】】)
- Chief Decision Scientist at Google
23. Kate Kaye (@【【微信】】)
- Independent Journalist
- Formerly Protocol)
24. Emad (@EMostaque)
- 【【微信】】.I.
25. Fei-Fei Li (@drfeifei)
- Co-Director at Stanford Human-Centered Artificial Intelligence
- Co-Founder and Chair of AI4Allorg
26. Jim Fan (@【【微信】】)
- AI Scientist at Nvidia
27. El【【微信】】 (@omarsar0 )
- Builder of DAIR AI
- Former Scientist at Meta AI and Elastic
28. Connie Chan (@conniechan)
- General Partner at a16z
29. Hugo Larochelle (@hugo_larochelle)
- Researcher at Google Brain
- Machine learning professor
- Ex-Twitter Cortex
30. Benj Edwards (@benjedwards)
- AI and ML Reporter, Ars Technica
- Tech Historian
31. Becca Szkutak (@rebecca_szkutak)
- Journalist at Techcrunch
32. Sergey Levine (@【【微信】】)
- Professor at UCBerkeley
33. Eric Schmidt (@ericschmidt)
- Former Google CEO
34. Ilya Sutskever (@【【微信】】)
- AGI at OpenAI
35. Patrick Mineault (@patrickmineault)
- Formerly Building 8
- Former Engineer at Google
36. Natasha Jaques (@【【微信】】)
- Senior Research Scientist at Google AI and Berkeley AI
37. Pieter Abbeel (@pabbeel)
- Professor at Berkeley
- Founder of Co【【微信】】 & Gradescope
- The Robot Brains 【【微信】】 Host
- In【【微信】】 【【微信】】
38. Eliezer Yudkowsky (@ESYudkowsky)
- Co-Founder at Machine Intelligence Research Institute
39. 【【淘密令】】 (@geoffreyhinton)
- Professor at Uni【【微信】】 of Toronto
- Co-Founder and Chief Scientific Ad【【微信】】ute
40. Brett Winton (@wintonARK)
- Chief Futurist at Ark Invest
41. Jeff Clune (@【【微信】】)
- Associate Professor at Uni【【微信】】 British Columbia
- Faculty Member of Vector Institute
42. Sridhar Ramaswamy (@RamaswmySridhar)
- Co-Founder of Neeva & NXYZ Data
- 【【微信】】lock
- Former SVP at Google
43. Ben Tossell (@bentossell)
- Author of Ben's Bites
44. John Schulman (@johnschulman2)
- Co-Founder of OpenAI
45. Ahsen Khaliq (@_【【微信】】)
- Author of AK’s Substack
- Founder of Gradio, acquired by HuggingFace
46. 【【微信】】 (@quocleix)
- Principal Scientist at Google Brain
47. Jack Clark (@jackclarkSF)
- Founder of Anthropic AI
- Co-Chair at Indexing AI
- Formerly at OpenAI
48. merve (@【【微信】】)
- Hugging Face (Mer【【微信】】)
49. David (@【【微信】】)
- Founder of Midjourney and Leap Motion
- Formerly at NASA and Max Planck Institute
50. Nathan Lambert (@natolambert)
- Machine Learning Scientist at Hugging Face
- Democratizing Automation
51. Richard Socher (@RichardSocher)
- CEO at You.com
52. Mustafa Suleyman (@mustafasuleymn)
- Co-Founder & CEO of InflectionAI
- Co-Founder of DeepMind
- 【【微信】】lock
- Former VP of AI at Google
53. Zoubin Ghahramani (@ZoubinGhahrama1)
- 【【微信】】 Brain
- Professor at Uni【【微信】】 of Cambridge
54. Nathan Benaich (@nathanbenaich)
- Author of Guide to AI
55. John McDonnell (@john【【微信】】)
- Formerly at Stitch Fix, Square, Gureckis Lab
56. Bojan Tunguz (@【【微信】】)
- Senior Systems Software Engineer (Machine Learning) at Nvidia
57. Ben Goertzel (@bengoertzel)
- CEO at Singularity
58. Chris Olah (@ch402)
- Founder of Anthropic AI
- Formerly at OpenAI Clarity Team, Google Brain and Distill Pub
59. Ksenia Se (@Kseniase_)
- Author of TheSequence
60. Paul Graham (@paulg)
- 【【微信】】
61. Russ Salakhutdinov (@【【微信】】)
- Former Apple AI
62. Greg Brockman (@gdb)
- President and Co-Founder of OpenAI
63. 【【微信】】 (@vivnat)
- Ad【【微信】】gle AI
- Former Researcher at Meta AI
64. Brian X. Chen (@bxchen)
- Journalist at New York Times
65. Anima Anandkumar (@AnimaAnandkumar)
- Professor at CalTech
- Senior Director of AI Research at NVIDIA
- Former Principal Scientist at AWS Cloud
66. Jeffrey Towson 陶迅 (@JeffreyTowson)
- Consultant
67. Thomas Wolf (@Thom_Wolf)
- Co-Founder of Hugging Face
68. John Platt (@johnplattml)
- Director of Applied Science at Google AI
69. Samanyou Garg (@SamanyouGarg)
- Founder & CEO of Writesonic
70. Kirk Bourne (@【【微信】】)
- Data Scientist at DataPrime
71. Alberto Romero (@Alber_RomGar)
- Author of The Algorithmic Bridge
- Analyst at CambrianAI
72. Matthew Hutson (@Sil【【微信】】)
- A.I. Freelance journalists
73. Tim Scarfe (@ecs【【微信】】)
- YouTuber on Machine Learning
74. Jordan Burgess (@jordnb)
- Co-Founder of Humanloop
75. Da【【微信】】 (@jluan)
- Founder of Adept AI
76. Connor Leahy (@【【微信】】)
- Founder of Conjecture & EleutherAI
77. Na【【微信】】 (@Na【【微信】】)
- Co-Founder & CEO of MosaicML
- Former Nervana/IntelAI
78. Azeem Azhar (@azeem)
- Author of Exponential View
79. Suhail Doshi (@Suhail)
- Founder of Playground.AI & MixPanel
80. Max Jaderberg (@maxjaderberg)
- Director of Machine Learning at IsomorphicLabs
- Former research scientist at DeepMind
- Co-founder 【【微信】】 (acquired by Google)
81. Kyle Wiggers (@Kyle_L_Wiggers)
- Tech AI Journalist at TechCrunch
82. Wei Xu (@【【微信】】)
- Assistant Professor in CS at GeorgiaTech
83. Aidan Gomez (@aidangomezzz)
- Co-Founder & CEO of Cohere
84. Alexandr Wang (@alexandr_wang)
- Founder of Scale AI
85. Caiming Xiong (@CaimingXiong)
- VP of AI at Salesforce
86. Yi Ma (@YiMaTweets)
- Professor of EECS UC Berkeley & IDS HKU
87. Misha Denil (@notmisha)
- Research Scientist at DeepMind
88. Peter Lee (@peteratmsr)
- Corporate 【【微信】】ft Research
89. Shi【【微信】】 (@shivon)
- Director of operations and special projects at Neuralink
90. Jacky Liang (@jackyliang42)
- PhD Student at CMU
- Author of Last Week in AI
91. 【【微信】】 (@v_vashishta)
- High ROI Data Science
92. Xuedong Huang (@xdh)
- Technical Fellow atMicrosoft, Azure AI
93. Hannah Fry (@FryRs【【微信】】)
- Tech Author
94. Ra【【微信】】 (@ra【【微信】】)
- Lightspeed 【【微信】】
95. clem (@【【微信】】)
- Co-Founder & CEO of Hugging Face
- Founder of MoodStocks, acquired by Google
96. Hattie Zhou (@【【微信】】)
- PhD Student at Uni【【微信】】é de Montréal and Mila
97. Sapna Maheshwari (@sapna)
- Journalist at New York Times
98. 【【微信】】 (@VRLalchand)
- PhD student in Machine Learning at Cambridge
99. Santiago L 【【微信】】 (@svpino)
- Machine Learning Freelancer and Technical Writer
100. 【【微信】】 (@ceobillionaire)
- President of Montreal AI
101. Yannic Kilcher (@【【微信】】)
- Yo
nlp技术储备最强的公司 国内nlp公司排名
nlp技术储备最强的公司排名,nlp技术储备最强的公司是哪个,nlp技术是什么,nlp领域哪些公司大规模模型（large-scale model）是近年来人工智能领域的一个热点话题，因为它们可以对自然语言处理（NLP）和其他任务进行更准确和深入的处理。由于大模型需要庞大的计算资源和数据支持，目前只有少数公司和机构能够进行研究和开发。本文将介绍一些国内外的巨头公司如何在大模型领域布局，以及他们的技术和应对措施。
大规模模型是指参数数量巨大的神经网络，例如OpenAI的GPT系列和Google的BERT系列。这些模型在NLP领域的应用非常广泛，可以用于自然语言生成、文本分类、机器翻译和问答系统等任务。由于它们需要处理大量的文本和语言数据，因此需要大量的计算资源和存储空间。目前，大规模模型在各种领域都取得了非常显著的成果，但是它们的使用和开发需要高超的技术和资源。
大规模模型在NLP领域的应用非常广泛，能够处理各种任务，如搜索问答、文本生成和代码生成等。这些模型可以理解和生成自然语言，并在各种应用中表现出令人印象深刻的效果。例如，OpenAI的GPT系列已经被广泛用于生成各种文本，包括新闻文章、小说和歌词等。此外，大模型也能够用于构建更加复杂的NLP系统，如自动对话系统和语音识别。
目前，全球范围内的科技公司都在积极研究和开发大规模模型，尤其是在NLP领域。
OpenAI推出了一系列大规模自然语言处理模型，如GPT-3、GPT-2、Transformer-XL等。这些模型通过使用更多的参数和更多的数据进行训练，取得了在自然语言处理任务上的卓越表现，刷新了多项自然语言处理的记录。其中，GPT-3模型拥有1750亿个参数，是目前最大的预训练模型之一。
OpenAI在模型训练和部署方面也有较多的技术突破。OpenAI通过设计高效的训练流程，采用分布式训练等技术手段，实现了高效的大规模模型训练。此外，OpenAI也在模型部署方面有所创新，推出了一种名为GPT-3 API的服务，使得开发者可以方便地使用GPT-3模型进行文本生成和自然语言处理。
OpenAI还推出了一系列工具和技术，如PyTorch、DALL-E等，为大规模模型的研究和应用提供了技术支持。其中，PyTorch是一种开源机器学习框架，得到了广泛的应用和认可。DALL-E则是一种能够生成图片的神经网络模型，展示了在视觉处理方面的潜力。
Google在大规模模型领域的贡献非常重要。其中最重要的贡献之一是Google Brain团队的Transformer模型，它在2017年的论文《Attention Is All You Need》中被首次提出。这个模型引入了自注意力机制（self-attention）的概念，通过在输入序列中学习对不同位置之间的依赖关系进行建模，大大提高了序列到序列任务的性能，如机器翻译和语言生成。
Google还推出了许多大规模模型的应用，如Smart Compose、Smart Reply、Google Translate等，这些应用广泛应用于Google的产品和服务中。这些大规模模型的成功应用推动了自然语言处理技术的进步，同时也促进了其他领域的应用，如计算机视觉、语音识别等。
在分布式训练方面，Facebook提出了一种名为Horovod的分布式训练框架，它能够在大规模GPU集群上实现高效的模型训练。Horovod使用了一种基于MPI的通信框架，能够在高效率和可扩展性之间取得平衡，从而在大规模分布式训练中获得了良好的性能。
在模型压缩方面，Facebook提出了一种名为【【微信】】ining（QAT）的技术。该技术通过训练模型时引入量化噪声，从而使模型在量化后仍能够保持较高的准确率。与传统的模型压缩技术相比，QAT能够在减小模型大小的同时，保持较高的准确率。
Facebook在大规模模型的研发中也采用了其他技术手段，如自适应学习率、自动混合精度等。这些技术手段在提高模型性能的同时，也能够有效降低训练时间和资源消耗。
Microsoft推出了一系列大规模自然语言处理模型，如Turing-NLG、MT-DNN等。这些模型在各种自然语言处理任务中取得了不俗的表现，其中Turing-NLG模型在自然语言生成领域有着较为出色的表现。
在模型训练和优化方面有着较深入的研究。Microsoft利用其在分布式系统、GPU加速等领域的技术优势，研究了大规模模型训练的高效方法，并通过自动化和优化算法等技术手段，进一步提高了模型的性能。例如，Microsoft的DeepSpeed技术，可以在具有数千个GPU的集群上训练包含数千亿个参数的模型。
百度推出了一系列大规模自然语言处理模型，如ERNIE、UniLM、PaddleNLP等。这些模型在自然语言处理任务中取得了不俗的表现，其中ERNIE模型在中文自然语言处理领域有着较为出色的表现。此外，百度还开发了一系列针对自然语言处理任务的工具和算法，如BERT-wwm、RoBERTa等。
百度在模型训练和优化方面有着深入的研究。百度的深度学习框架PaddlePaddle，具有高效的分布式训练和自动优化的能力，可支持超大规模的模型训练。百度还推出了基于PaddlePaddle的高性能计算机ClusterHPC，可支持PB级别的模型训练。
百度在自然语言处理领域有着较为全面的布局，从模型研究到算法优化，再到工具框架的支持，都形成了一套完整的技术体系。例如，百度提出的自然语言推理技术，可以在自然语言理解任务中有效提高模型的泛化能力和鲁棒性。
ChatGPT可以处理各种任务，如搜索问答、文本生成和代码生成，而且已经完全超越了人们印象中的AI智能助手。ChatGPT的出现引发了全球技术竞赛，因为可以帮助开发者更轻松地构建强大的AI应用程序。
OpenAI已经开放了ChatGPT的API，这意味着开发者可以将ChatGPT集成到自己的应用中。而且，ChatGPT被认为是史上最强的AI之一，ChatGPT的强大能力即将出现在常用App上，这会让许多应用程序更加智能化和易于使用。
ChatGPT的出现改变了人们对AI的观感，因为技术不断进步，国内外科技公司加速追赶，构建类ChatGPT模型的计划陆续宣布。人工智能生成内容（AIGC）领域也进入了爆发式增长。这意味着ChatGPT们会看到越来越多的应用程序和工具可以自动生成内容，这将大大提高效率和节省时间。
随着自然语言处理技术的不断进步，人们对人工智能的认知也在不断变化。ChatGPT的出现让人们看到了人工智能的巨大潜力。在国内外，科技公司正在加速追赶，构建类ChatGPT模型的计划陆续宣布。AIGC（人工智能生成内容）领域也进入了爆发式增长。
百度在人工智能领域深耕十余年，是其中的佼佼者之一，该公司在拥有产业级知识增强文心大模型。文心大模型是百度的核心技术之一，该模型具备跨模态、跨语言的深度语义理解与生成能力。据悉，文心大模型能够帮助企业处理语音、图像等多种形态的数据，并且还能够进行多语种处理。
百度计划于3月16日举行新闻发布会，主题围绕着“文心一言”。作为百度基于文心大模型技术推出的生成式对话产品，文心一言被外界誉为“中国版ChatGPT”，将于2023年3月份面向公众开放。
那么，文心一言究竟是什么？
文心一言是百度基于文心大模型技术所推出的一款生成式对话产品，类似于ChatGPT。这个产品能够利用百度的深度语义理解和生成能力，与用户进行自然、流畅的交互式对话。据称，它不仅可以回答用户的问题，还可以进行更深入的交流，从而成为用户的智能助手。
文心一言的能力非常强大，可以处理多种自然语言任务，比如搜索问答、闲聊、新闻摘要等。它的知识库非常丰富，可以根据用户提供的关键词和语境，生成高质量的回答。同时，它还具备自我学习的能力，随着使用越来越多，它会不断提升自己的能力。
相比传统的搜索引擎，文心一言能够提供更加个性化、精准、快速的文本内容服务。这种类 ChatGPT 产品的应用场景非常广泛，可以应用于新闻资讯、媒体、教育、广告等各个领域。预计在未来的发展中，文心一言会越来越受到用户和企业的青睐。
阿里巴巴则通过技术优势实现了参数规模的量级提升。其多模态大模型 M6 参数规模已经突破 10 万亿，规模远超谷歌、微软，成为全球最大的 AI 预训练模型。阿里旗下的达摩院在 ChatGPT 所需底层技术上拥有强大技术能力，正在研发阿里版 ChatGPT，并将和钉钉深度结合。这使得阿里在 ChatGPT 领域中备受期待。
与阿里相比，腾讯在大模型领域上一直比较低调。去年 4 月，腾讯首次对外披露了混元 AI 大模型的研发进展，该模型完整覆盖 NLP、CV、多模态等基础模型和众多行业/领域模型。去年 12 月，腾讯混元推出了国内首个低成本、可落地的 NLP 万亿大模型，并再次登顶自然语言理解任务榜单 CLUE。今年 2 月底，腾讯针对类 ChatGPT 对话式产品已成立「混元助手（HunyuanAide）」项目组，将联合腾讯内部多方团队构建大参数语言模型，并致力于完善腾讯智能助手工具，打造腾讯智能大助手，并能成为国内的业界标杆。
可以预见，在NLP领域，中国的科技巨头们将会展现出强大的技术实力和创新能力，不断为人工智能的发展和应用开辟更加广阔的空间。
