Transformer正在顛覆AI領(lǐng)域。市面上有這么平臺和Transformer模型,哪些最符合你的需求?
將引領(lǐng)你進入Transformer的世界,將講述不同模型和平臺的優(yōu)勢,指出如何消除模型的缺點和問題。本書將引導(dǎo)你使用Hugging Face從頭開始預(yù)訓(xùn)練一個RoBERTa模型,包括構(gòu)建數(shù)據(jù)集、定義數(shù)據(jù)整理器以及訓(xùn)練模型等。
《基于GPT-3、ChatGPT、GPT-4等Transformer架構(gòu)的自然語言處理》分步展示如何微調(diào)GPT-3等預(yù)訓(xùn)練模型。研究機器翻譯、語音轉(zhuǎn)文本、文本轉(zhuǎn)語音、問答等NLP任務(wù),并介紹解決NLP難題的技術(shù),甚至幫助你應(yīng)對假新聞焦慮(詳見第13章)。
從書中可了解到,諸如OpenAI的高級平臺將Transformer擴展到語言領(lǐng)域、計算機視覺領(lǐng)域,并允許使用DALL-E 2、ChatGPT和GPT-4生成代碼。通過本書,你將了解到Transformer的工作原理以及如何實施Transformer來決NLP問題。
主要內(nèi)容
? 了解用于解決復(fù)雜語言問題的新技術(shù)
? 將GPT-3與T5、GPT-2和基于BERT的Transformer的結(jié)果進行對比
? 使用TensorFlow、PyTorch和GPT-3執(zhí)行情感分析、文本摘要、非正式語言分析、機器翻譯等任務(wù)
? 了解ViT和CLIP如何標注圖像(包括模糊化),并使用DALL-E從文本生成圖像
? 學(xué)習(xí)ChatGPT和GPT-4的高級提示工程機制