大模型通常指的是参数数量在数十亿或更多数量级的深度学习模型。
大语言模型(LLM)的核心优势在于其强大的生成能力。
上下文学习(In-Context Learning)需要通过反向梯度更新模型参数。
在大模型的上下文学习(In-Context Learning)中,模型通过以下哪种方式理解任务?
反向梯度更新模型参数
根据给定的实例直接生成预测结果
预训练语言模型的微调
基于强化学习的策略优化
下列哪一项是思维链(Chain-of-Thought, CoT)的关键特点?
仅提供输入输出对,不涉及推理过程
结合中间推理步骤,引导模型生成更复杂的推理结果
仅支持单步推理任务
依赖于外部知识库进行推理
Vision Transformer(ViT)的核心模块不包括以下哪一项?
Patch Embedding
Transformer Encoder
位置编码(Positional Encoding)
卷积神经网络(CNN)
GPT-3相较于BERT的核心区别之一在于其模型结构,以下描述正确的是:
GPT-3是双向模型,BERT是单向模型
GPT-3是自回归生成模型,BERT是双向编码模型
GPT-3和BERT都使用相同的编码器-解码器结构
GPT-3仅用于文本分类,BERT仅用于文本生成
GPT-3相较于BERT更适合哪种任务?
情感分析
命名实体识别
文本生成与对话系统
文本分类