ChatGPT風(fēng)暴：大語(yǔ)言模型、生成式AI與AIGC顛覆創(chuàng)新范式

目錄
第一章 盜火者還是玩火者？ 1
1．創(chuàng)造者群像 2
埃隆·馬斯克 3
山姆·阿爾特曼 6
格雷格·布洛克曼 9
伊利亞·蘇茨克維爾 11
約翰·舒爾曼 12
沃伊切赫·扎倫巴 14
2．退學(xué)創(chuàng)業(yè)——成功之路？ 15
反復(fù)重演的故事 15
走適合自己的路 17
3．OpenAI養(yǎng)成記 19
信仰和使命 20
初創(chuàng)期 24
“利潤(rùn)上限”公司 26
轟動(dòng)世界 27
“人民公敵”？ 31
4．風(fēng)暴有多強(qiáng) 33
5．英雄創(chuàng)造時(shí)代 36
第二章 深度學(xué)習(xí)崛起 38
1．人工智能夢(mèng)想之路 38
符號(hào)主義開(kāi)局（1956—1967年） 39
專(zhuān)家系統(tǒng)繁榮一時(shí)（1968—1985年） 41
神經(jīng)網(wǎng)絡(luò)的復(fù)興（1986—2005年） 43
深度學(xué)習(xí)的勝利（2006—2021年） 46
走向通用人工智能（2022—2038年） 49
2．深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支 50
監(jiān)督學(xué)習(xí) 51
無(wú)監(jiān)督學(xué)習(xí) 51
半監(jiān)督學(xué)習(xí) 51
強(qiáng)化學(xué)習(xí) 52
遷移學(xué)習(xí) 53
深度學(xué)習(xí) 54
3．感知機(jī)如何進(jìn)化為深度學(xué)習(xí) 54
神經(jīng)元與感知機(jī) 54
前饋神經(jīng)網(wǎng)絡(luò) 56
反饋神經(jīng)網(wǎng)絡(luò) 59
反向傳播算法 60
卷積神經(jīng)網(wǎng)絡(luò) 62
循環(huán)神經(jīng)網(wǎng)絡(luò) 64
4．一些重要的深度學(xué)習(xí)算法模型 67
深度信念網(wǎng)絡(luò) 68
生成對(duì)抗網(wǎng)絡(luò) 70
深度強(qiáng)化學(xué)習(xí) 71
5．阿爾法狗的價(jià)值及其進(jìn)化 73
阿爾法狗橫空出世 74
向自主學(xué)習(xí)進(jìn)化 75
6．籠罩在深度學(xué)習(xí)頭上的烏云 77
第三章 大語(yǔ)言模型 79
1．大語(yǔ)言模型——自然語(yǔ)言處理的前沿 80
什么是自然語(yǔ)言處理 80
自然語(yǔ)言處理的發(fā)展歷程 81
大語(yǔ)言模型——超越自然語(yǔ)言處理 85
2．算力爆炸 86
不同類(lèi)型的算力 87
全球算力爆炸 87
大語(yǔ)言模型與算力爆炸 88
3．海量數(shù)據(jù) 89
大語(yǔ)言模型需要海量數(shù)據(jù) 89
數(shù)據(jù)收集與預(yù)處理 90
數(shù)據(jù)隱私、數(shù)據(jù)安全和數(shù)據(jù)偏差 92
4．典型大語(yǔ)言模型 92
LLaMA 93
PaLM2 95
LaMDA 96
Claude 96
Chinchilla 97
Gopher 97
BLOOM 98
5．大語(yǔ)言模型戰(zhàn)勝了小語(yǔ)言模型？ 98
6．大語(yǔ)言模型的弊端 101
第四章 為什么是ChatGPT 103
1．關(guān)鍵里程碑——Transformer 103
總體架構(gòu) 104
注意力機(jī)制 105
位置編碼 108
前饋網(wǎng)絡(luò) 109
殘差連接與層歸一化 109
2．GPT系列的持續(xù)進(jìn)化 110
GPT-1 110
GPT-2 112
GPT-3 112
InstructGPT 114
ChatGPT 115
GPT-4 117
3．ChatGPT商業(yè)化的五種模式 119
與微軟的深度捆綁 120
API 121
訂閱模式 121
模型多元化 121
應(yīng)用商店 122
4．通用人工智能的早期版本？ 123
5．未來(lái)前進(jìn)的方向 125
第五章 機(jī)器生成內(nèi)容——AIGC 128
1．生成式AI與AIGC 129
生成式AI 129
全面理解AIGC 133
2．沒(méi)有什么不能生成 135
文本生成 135
圖像生成 140
視頻生成 143
音樂(lè)生成 145
代碼生成 147
3．AIGC的實(shí)質(zhì)是生產(chǎn)力革命 150
生產(chǎn)力革命 151
人人都是創(chuàng)造者 153
第六章 生成性與涌現(xiàn) 155
1．復(fù)雜經(jīng)濟(jì)學(xué) 156
復(fù)雜性科學(xué) 156
復(fù)雜經(jīng)濟(jì)學(xué)的基本觀點(diǎn) 157
經(jīng)濟(jì)活動(dòng)中的涌現(xiàn) 158
2．平臺(tái)生態(tài) 158
平臺(tái)生態(tài)是什么 158
平臺(tái)生態(tài)中的生成性 159
平臺(tái)生態(tài)中的涌現(xiàn) 160
3．生成性 161
4．知識(shí)涌現(xiàn) 162
5．涌現(xiàn)能力的臨界值 164
第七章 搜索引擎的黃昏 166
1．信息爆炸的逆轉(zhuǎn) 167
為何重要 167
如何工作 169
2．美好時(shí)光 171
3．“巨人”間的平庸競(jìng)爭(zhēng) 174
4．危機(jī)確實(shí)迫在眉睫 175
5．替代還是升級(jí)？ 177
第八章 知識(shí)的危機(jī) 179
1．什么是知識(shí) 180
2．顯性知識(shí)與隱性知識(shí) 185
3．人類(lèi)的知識(shí)是如何進(jìn)步的 188
4．知識(shí)爆炸 190
5．污染還是凈化？ 192
6．“無(wú)用”的知識(shí)分子？ 194
第九章 元宇宙和AIGC雙重驅(qū)動(dòng)數(shù)字化轉(zhuǎn)型 198
1．元宇宙——空間革命與規(guī)則重構(gòu) 199
2．無(wú)處不在的AIGC與效率革命 202
3．雙重驅(qū)動(dòng)的行業(yè)變革 204
教育 204
工業(yè) 208
傳媒 212
文旅 217
醫(yī)學(xué) 219
第十章 挑戰(zhàn)與中國(guó)機(jī)遇 224
1．新的“卡脖子”？ 225
2．中國(guó)的機(jī)遇 226
3．中國(guó)數(shù)字產(chǎn)業(yè)界的集體行動(dòng) 228
4．低端版本還是超越？ 231
參考文獻(xiàn) 233