五千年(敝帚自珍)

主题:【原创】我的chatGPT的使用体验 -- Swell

共:💬285 🌺1767 🌵12
全看分页树展 · 主题 跟帖
家园 确实不是一条线上的

监督学习一般和非监督学习比,通常指训练数据有没有标定(Label)。而强化学习实际上类似仿生,通常是AI智能体和环境交互的过程中学习知识。

深度学习是指一种技术上实现方式,本质上是为了减少计算量。是的,虽然深度学习看起来系统庞大无比,但和全连接方式比,计算量其实是减少了。计算量和时间允许的话,全连接实际上更简单。但实际上像chatGPT这样的大模型用全连接是不可能的,只能采用一些简化模型,而简化模型深度不够则模型精度就上不去,然而深度一大计算误差累计到后面就造成梯度消失,算法就运行不下去了。近几年在减少累计误差方面有了突破,造成神经网络深度大大增加,远远超过之前的想象,这才能在当前算力水平下支持chatGPT这样的大模型。

通宝推:唐家山,
全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河