备案中又需要建设网站,展馆展厅设计报价,杭州做企业网站的公司,小程序定制开发外包风险上周#xff0c;我和一位从业三十余年的工程师聊到ChatGPT。
作为一名人工智能领域研究者#xff0c;我也一直对对话式大型语言模型非常感兴趣#xff0c;在讨论中#xff0c;我向他解释这个技术时#xff0c;他瞬间被其中惊人之处所吸引#x1f64c;#xff0c;我们深…上周我和一位从业三十余年的工程师聊到ChatGPT。
作为一名人工智能领域研究者我也一直对对话式大型语言模型非常感兴趣在讨论中我向他解释这个技术时他瞬间被其中惊人之处所吸引我们深入探讨了ChatGPT的关键技术他对我所说的内容产生了浓厚的兴趣我们开始交流并分享了各自的经验。我发现与这位资深工程师的讨论不仅加深了我的理解也让我更加了解了这项技术的前沿发展。
后续我也下面我将分享一些我在与工程师的讨论中和自己学习中所了解的ChatGPT的关键技术希望对您有所帮助。
一、大规模语言模型
大规模语言模型Large Language Models是一类基于机器学习的自然语言处理技术它能够对大量文本数据进行学习从而生成一种对语言的抽象表示。
谈到大规模语言模型时Transformers是一个不可避免的话题可以说大规模语言模型是自然语言处理领域的“流量入口”而Transformer则是这一领域的“基石”。它们是如何相互作用的呢
熟悉我的粉丝朋友们可能看过我在早些时候总结的Transformer基础横扫NLP 脚踏CV界的Transformer到底是什么 和 Transformer之十万个为什么。
总结来说Transformer是一种用于处理序列数据的神经网络架构传统的CNN、RNN(或者LSTMGRU)计算是顺序的、迭代的、串行的即只能从左向右依次计算或者从右向左依次计算而Transformer使用了位置嵌入 (Positional Encoding) 来理解语言的顺序使用自注意力机制Self Attention Mechanism和全连接层进行计算所有字都是同时训练具有更好的并行性。
大规模语言模型通常采用深度学习算法通过大量的语料库来预训练模型使其能够“理解”自然语言中的语义、语法和上下文等信息。而Transformer则是一种特殊的深度学习模型核心是自注意力机制self-attention。在传统的RNN或LSTM模型中每个元素的表示只能从之前的元素获得信息这就存在信息流动的局限性而自注意力机制允许每个元素能够获得来自序列中其他元素的信息从而更全面地捕捉序列之间的依赖关系。
除了自注意力机制Transformer还包括了一些其他的创新性组件如多头自注意力、位置编码等。这些组件相互配合使得Transformer模型能够在大规模语料上取得优秀的表现。
GPT 模型使用了 Transformer 的 Encoder 部分Encoder 包括多个堆叠的自注意力机制self-attention mechanism层和前馈神经网络层。通过使用 Transformer 的自注意力机制GPT 模型能够学习输入序列的上下文信息并生成符合上下文的自然语言文本。
二、思维链
在聊天中ChatGPT带给那位工程师另一项细思极恐的地方就是思维链。
思维链是指人们在思考或解决问题时从一个概念或想法出发逐步延伸联想形成的一系列有机衔接的思维过程基于大规模语言模型的自然语言处理技术。
它通过对文本数据进行训练建立起词汇与概念之间的联系每个词汇都被映射为一个高维向量而这些向量之间的关系就是思维链的基础。通过对大量文本进行训练模型学习到了不同词汇之间的关系从而可以在输入一个词汇时输出与之相关联的概念或其他词汇进而构成一个完整的思维链。
试验时我出了一道小学数学应用题交给ChatGPT处理可以看到其不仅能够理解语言更难得的是其能学习到应用数学的逻辑关系并通过推理解决一定的问题。
可以说ChatGPT作为一种基于Transformer结构的大规模语言模型在构建思维链方面具有很高的优势。Transformer结构通过多层自注意力机制实现了文本序列中信息的交互和迭代从而使得模型可以学习到更为复杂的词汇关系和语义表示。ChatGPT使用了非常大规模的训练数据和深度网络结构可以处理大量的文本输入从而更加精确地建立思维链。
三、强化学习
为了训练 ChatGPT 让其给出的答案更贴近人类它在发布前采取了一种叫做“基于人类反馈的强化学习”的训练策略当我们在使用ChatGPT这样的大规模语言模型进行对话时我们的目标是让模型能够理解我们的意图并作出合适的回应。这个过程中模型需要从已有的数据中学习到哪些回应更能够符合用户的期望这就是强化学习的策略。
智能体通过不断地试错学习更新其策略以最大化其获得累积奖励的期望值。这种学习过程可以通过价值函数来实现价值函数可以分为状态价值函数和动作价值函数。在训练过程中智能体通过对状态价值函数和动作价值函数进行更新来提高策略的性能。
强化学习是机器学习中的另一种学习方式目标是让机器能够在与环境交互的过程中通过试错来学习如何最大化奖励从而达到特定的目标。在强化学习中机器不会像监督学习那样依赖于已有的标注数据而是通过与环境的交互来获取实时的反馈和奖励并根据这些反馈和奖励来调整自己的行为。
强化学习的核心思想是基于马尔可夫决策过程Markov Decision ProcessMDP。在MDP中智能体与环境交互的过程可以用一个五元组SARPγ来描述。 MDP(S,A,P,R,γ)\mathrm{MDP}(\mathrm{S}, \mathrm{A}, \mathrm{P}, \mathrm{R}, \gamma)MDP(S,A,P,R,γ)其中S是状态state集A是行为action集 R是奖励函数P是状态转移概率state transference概率矩阵γ是衰减因子。 在强化学习中有两种基本的学习方法值函数学习和策略梯度学习。值函数学习通过学习一个值函数来估计每个状态的价值并选择具有最高值的操作。策略梯度学习直接优化策略函数即在给定状态下采取的操作。这两种方法都有各自的优缺点可以根据应用场景选择合适的方法。
那么在与ChatGPT这样的大规模语言模型进行对话时强化学习可以如何应用呢一个常见的例子是使用强化学习来优化聊天机器人的回答质量。在这个过程中机器会与用户进行多轮对话每一轮都会根据用户的意图和回答的质量获得相应的奖励同时机器也会根据自己的行为和环境的变化调整自己的策略以期望获得更高的奖励。 除了自然语言处理方面强化学习在图像处理、游戏玩法和机器人控制等领域都有广泛的应用。
四、未来展望——多模态异构数据处理
模态是指某件事情发生或经历的方式。每一种信息的来源或者形式都可以称为一种模态。人类对世界的体验是多模态的例如触觉听觉视觉嗅觉而人类获取信息的媒介有语音、视频、文字等
为了让人工智能在理解我们周围的世界方面取得进展它需要能够一起解释这种多模态信号。多模态机器学习旨在建立能够处理和关联来自多种模态的信息的模型。
当今的社交媒体中包含了海量非合作、异构化、跨模态的数据既蕴藏了大量的人类知识与高价值信息也包含了各种自然与人为的噪声对其分析与处理需要融合类脑计算、计算机视觉、自然语言处理等多个维度的智能技术。
谈及多模态异构数据处理我们不得不提到现代数据处理中的一个热点领域——图文智能处理与多场景应用技术。近年来这一领域得到了快速发展应用也在不断拓展。 图像和文本是我们最常接触的两种模态随着OCR技术应用的不断深入面向图像文档中复杂结构如汉字结构表格结构文档总体结构等的建模问题也已经逐渐成为研究热点之一如上图用扫描全能王的“拍图识字”功能一键扫描识别竖排繁体古籍《桃花源记》面对破损、皱褶的古籍该功能通过分析图像图像文档复杂结构进一步将古籍内容提取出来赋予更加清晰、平整的古籍阅读体验。
图文智能处理与多场景应用技术不仅仅局限于图像图形领域也涉及到自然语言处理、视频处理、人工智能等多个领域未来可能会出现大量的、碎片化的应用范围比如图像转文字智能文档识别文本生成头像、诗文、甚至短视频等重点是在有趣的细分场景里发挥创造性和想象力。
在这个背景下我也非常巧合地收到了CSIG图像图形企业行活动的邀请。
活动由中国图象图形协会CSIG主办合合信息、CSIG文档图像分析与识别专业委员会在3月18日联合承办。华南理工金连文教授、上海交大杨小康教授、复旦邱锡鹏教授、厦大纪荣嵘教授、中科大杜俊教授、合合信息郭丰俊博士等顶尖专家们将交流分享对于图像文档处理中的结构建模、底层视觉技术、跨媒体数据协同应用、生成式人工智能及对话式大型语言模型等技术的展望。
在上海的朋友们可以点击链接https://qywx.wjx.cn/vm/rhE9BxC.aspx线下参会
不在上海的朋友们也可以通过直播间预约观看活动干货多多全程亮点本周六下午14.00欢迎大家关注
会后还有答疑环节各位有什么想问的问题可以在评论区留言我到时候线下可以面对面提问哦,
参考文献
人人都能懂的ChatGPT解读[https://new.qq.com/rain/a/20230226A02Y7B00] 最后
我们已经建立了T2I研学社群如果你还有其他疑问或者对ChatGPT或者文本生成图像很感兴趣可以私信我加入社群。 支持我点赞收藏⭐️留言
