1 / 1
扫码查看

《互联网软件开发技术与实践》· 第 1 课(中)

大语言模型、智能体与产品能力

主讲人:张齐勋

单位:北京大学

2026 年秋

目录CONTENT
北京大学 PEKING UNIVERSITY
01 同类产品观察 教育场景中的智能互联网应用
02 大语言模型 基于 Transformer 的自回归语言模型
03 智能体 感知环境、决策并行动以达成目标
04 知识库 可检索的外部知识;检索增强生成
05 技能 可复用的专项能力模块
06 MCP 连接人工智能应用与外部系统的开放协议
07 综合落地 五项能力的实现要求与一次问答的完整过程
开篇

先区分产品中的人工智能与开发过程中的人工智能

北京大学 PEKING UNIVERSITY

产品中的人工智能(本课)

  • 面向最终用户:提问、提交作业、查看批改与讲解
  • 主要对象:大语言模型、智能体、知识库、技能、MCP
  • 验收依据:技能开关有效、来源可核对、越权应失败、密钥不泄漏

开发过程中的人工智能(稍后)

  • 面向代码仓库:按规约修改程序,再以运行与测试验收
  • 主要内容:提示工程、上下文工程、人机协同开发循环
  • 验收依据:页面、接口、日志与失败路径能够成立
说明
本课程案例 CampusClaw 需要实现的是产品中的五项能力。它们应嵌入完整的互联网应用:登录、班级、讲义、作业与审计。
开篇

五个基本概念及其在本课程中的含义

北京大学 PEKING UNIVERSITY
术语定义在本课程中的含义
大语言模型基于 Transformer、在大规模语料上预训练的自回归语言模型,根据上下文预测下一词元并生成文本服务端调用;流式输出;密钥不进入前端
智能体能够感知环境、进行决策并采取行动以达成目标的计算实体;本课指以大语言模型为核心的智能体学科助手:校验、规划、调用工具、再行动
知识库 / 检索增强生成知识库是可检索的外部知识集合;检索增强生成是先检索再据此生成本班讲义切分检索;命中须标注来源
技能可复用的专项能力模块,封装适用条件、行为规程及可选工具三项必做技能:可注册、可按需选用(路由)、可启停
MCP在人工智能应用与外部系统之间建立标准化连接的开放协议工具发现与绑定;调用须鉴权并审计
用法
以上定义为课程统一表述,作业与报告中请采用中文术语。
目录CONTENT
北京大学 PEKING UNIVERSITY
01

同类产品观察

  • 先看教育场景里已有的智能互联网应用,建立直观认识
  • 观察时对照五项能力,并思考本课程项目还须补上哪些约束
1.1

先看同类产品:教育场景里的智能互联网应用

北京大学 PEKING UNIVERSITY
  • 当前已有一批面向教师备课、课堂互动与学情分析的互联网产品,将大语言模型做成可日常使用的教学辅助系统。
  • 下面根据公开资料介绍企鹅教师助手、飞象老师,并对照星火教师助手。产品仍在迭代,课堂仅取其公开能力,不评价优劣。
  • 课后可自行访问:企鹅教师助手、飞象老师、星火教师助手。
  • 观察产品时对照五项能力:是否调用大语言模型?是否属于智能体?是否具备知识库与技能?工具如何接入?本课程项目还须补上哪些约束?

共同之处

  • 服务真实教学任务,而非闲聊
  • 以教师为主、系统为辅
  • 生成结果仍须教师审阅后使用

本课程还要做成

  • 班级隔离、角色权限与审计
  • 可追溯知识库与可开关技能
  • 作业批改、改分与错题讲解闭环
用法
同类产品用于建立直观认识。CampusClaw 并非仿制其中某一款,而是把五项能力做成可验收的完整应用。
1.2

企鹅教师助手:面向备课与课堂设计的教师助手

北京大学 PEKING UNIVERSITY

产品定位

  • 腾讯推出的教师教学辅助产品,已进入国家中小学智慧教育平台
  • 面向中小学教师,强调教师掌握主导权,系统承担备课与文书等辅助工作
  • 主要能力包括教学日程、课件生成、剧本教学、创意教学设计,以及基于技能的对话

与五项能力的对应

  • 大语言模型:生成教案、课件与课堂活动初稿
  • 技能:公开资料显示其对话区提供多种可选用技能
  • 知识与记忆:可结合课题、学段与教师记忆生成更贴合的内容
  • 它首先服务教师备课,并不等同于带班级隔离的完整教务系统
观察
企鹅教师助手说明:教育产品可以把技能做成可选用的专项能力,对应具体教学任务。
1.3

飞象老师:面向课堂的教学智能体

北京大学 PEKING UNIVERSITY

产品定位

  • 飞象星球推出的教师端产品,定位为教学智能体
  • 教师用自然语言描述想法,系统生成互动课件、教学动画或可访问的教学应用
  • 公开资料还提到作业批改、错因分析、答疑讲解等教育任务能力

与五项能力的对应

  • 智能体:在目标下生成并迭代教学应用,而不只是一次文本补全
  • 知识库:可解析教材、试卷等文档,并调用校本资源
  • 大语言模型:支撑讲解、出题与批改等任务
  • 生成应用能运行,仍不等于完成了权限、审计与失败路径验收
观察
飞象老师说明:教学智能体可以把“生成内容”推进到“生成可用的教学应用”。本课程还要求把应用做成可隔离、可审计的系统。
1.4

对照:主流产品与本课程项目各做什么

北京大学 PEKING UNIVERSITY
产品主要服务对象与公开能力对本课程的启发
企鹅教师助手中小学教师;课件与教学设计生成,对话中提供多种技能技能应当可选用、可对应具体教学任务
飞象老师教师;互动课件与教学应用生成,以及批改、错因分析等任务智能体应能调用工具并产出可运行结果
星火教师助手教师;教学设计、课件创编、资源检索与组卷,强调与课标对齐知识库与检索应服务备课,而不是泛泛问答
CampusClaw本班教师与学生;助手、讲义、作业、批改、错题与审计须同时实现登录、隔离、可追溯检索、可开关技能与 MCP
提醒
同类产品证明教育场景需要智能体、技能与知识库。本课程验收的是完整互联网应用:隔离、可追溯检索、可开关技能、作业闭环与审计。
目录CONTENT
北京大学 PEKING UNIVERSITY
02

大语言模型

  • 大语言模型是在大规模语料上预训练的自回归语言模型
  • 它生成的是最可能的续写,而不是对数据库的查询结果
2.1

定义:大语言模型是自回归语言模型

北京大学 PEKING UNIVERSITY
  • 大语言模型(Large Language Model,LLM)是指基于 Transformer 架构、在大规模文本语料上预训练得到的深度学习语言模型。其基本机制是自回归:根据已有上下文预测下一个词元的条件概率,并据此逐词生成。
  • 模型参数记录的只是训练语料中的统计规律,并不是可查询、可更新的知识库。本班讲义、当前用户身份、本次作业状态,默认并不包含在参数之中。
  • 幻觉是指模型生成的内容语言通顺,却与客观事实或给定依据不符。流式输出只改变文本到达方式,并不改变这一概率生成本质。

能力范围

  • 文本生成、改写,以及依据给定材料组织说明
  • 在提示约束下遵循格式并提出工具调用
  • 不提供事务一致性、访问控制或出处保证

对系统设计的含义

  • 数据范围与权限须在调用前由应用判定
  • 需要领域新事实时,应检索外部知识库
  • 无依据时拒绝作答,属于系统规则,而非模型本能
定义
大语言模型输出的是条件概率意义下最可能的续写。正确性、权限与可追溯性须由应用层约束,并不属于模型接口的默认语义。
2.2

在本课程项目中如何调用大语言模型

北京大学 PEKING UNIVERSITY
1

仅在服务端调用

浏览器与学生端不得持有 API 密钥。密钥存放于服务端配置,不得写入代码仓库、前端程序或镜像说明。

2

每次调用须带约束

发出请求前,先确认用户、班级、学科与助手的归属关系。模型只能看到经过筛选的提示词、技能说明和检索片段,而不能看到全部站点数据。

3

结果应当可观测

回答以流式方式返回页面,同时记录所用模型、耗时、用量及技能名称。没有记录,就难以评测,也难以排查故障。

大语言模型是被调用的推理与生成部件,而不是系统的决策中枢或权限中枢。调用资格、上下文内容以及调用记录,均由应用层决定。
目录CONTENT
北京大学 PEKING UNIVERSITY
03

智能体

  • 以大语言模型为推理核心的智能体,在目标引导下规划并调用工具
  • 停止条件由运行环境给出,而不是由模型自行宣布完成
3.1

定义:智能体是目标导向的决策与行动系统

北京大学 PEKING UNIVERSITY
  • 智能体(Agent)是指能够感知环境、进行决策并采取行动,以达成既定目标的计算实体。一次文本补全只是“根据上文预测下文”的条件生成,没有目标也没有行动;智能体则进入“感知—推理—行动—观察”的循环,直至目标达成或满足停止条件。
  • 基于大语言模型的智能体通常由四部分组成:大语言模型、记忆、规划与工具调用。工具由运行环境执行,模型只提出调用请求;执行结果写回上下文后,再决定下一步。
  • ReAct(Reasoning and Acting,推理—行动)交替进行,是常见的控制方式。循环的边界、超时、最大步数和权限属于运行环境的约束,并不属于模型参数本身。
1

目标任务状态与成功条件

2

推理分解步骤并选择动作

3

行动由运行环境执行工具

4

观察将结果写回上下文后再循环

定义
智能体是在目标引导下、借助工具与环境交互的系统。仅有一次对话补全,还不能称为智能体。
3.2

本课程中的学科助手就是智能体

北京大学 PEKING UNIVERSITY
  • 学科助手是绑定了系统提示词、授权知识库与已启用技能的智能体。一个班级可以设置多个助手,并按学科隔离上下文与工具范围。
  • 每次对话都按当前配置运行。教师修改提示词或停用技能后,下一次对话就会按新的策略和可用工具执行。
  • 对话、批改与错题讲解虽然都由智能体完成,但目标、触发条件和可修改的数据不同,应分别设计,而不是在一个接口里用大量条件判断勉强合并。

助手配置的基本内容

  • 角色与总体原则(提示词)
  • 已启用的技能及其绑定工具
  • 本学科知识库的范围

一次对话开始前须完成

  • 校验用户与助手属于同一班级、同一学科
  • 只加载已启用且满足适用条件的技能
  • 工具调用沿用对象级访问控制
说明
接入大语言模型只得到生成能力。再具备目标、记忆范围、规划、工具与停止条件,才构成智能体;再加上权限与审计,才构成可交付的应用。
目录CONTENT
北京大学 PEKING UNIVERSITY
04

知识库

  • 知识库是经过组织、存储并可检索的外部知识集合
  • 检索增强生成是先检索相关内容,再据此生成回答
4.1

定义:知识库为检索增强生成提供外部依据

北京大学 PEKING UNIVERSITY
  • 知识库(Knowledge Base)是指经过采集、切分、建立索引并实施权限管理的文档集合,而不是模型参数本身。
  • 检索增强生成(Retrieval-Augmented Generation,RAG)是指在大语言模型生成回答之前,先从外部知识库检索相关片段,再将这些片段作为条件输入模型,以提高准确性、时效性与可追溯性。
  • 常用方法是混合检索,即同时使用关键词检索与向量检索。系统返回带有来源信息的文档片段,而不是把整个知识库放入上下文。生成内容应当能够回溯到具体片段。
1

入库将文档对象化并标注权限

2

切分文档片段保留来源与位置

3

检索在授权范围内进行混合检索

4

生成以命中片段为条件并标注来源

定义
知识库回答的是依据从何处而来、能否更新、能否追溯。它并不能把大语言模型变成更大的参数库。
4.2

知识库使用的三项基本要求

北京大学 PEKING UNIVERSITY
1

范围

修改班级 ID、资源 ID 或检索词,都不能读取他班讲义。多学科时,对话与检索默认锁定在所选助手对应的知识库。

2

来源

命中结果带讲义名和位置。检索页、对话引用、评测问题集都按同一套来源字段验收。

3

拒答

资料中没有答案时,应明确说明本班知识库中没有检索到相关资料,不得补充虚假出处,也不得凭空给出结论。

检索增强生成的验收不能只看答对一题。有答案、无答案、越权访问三类查询均应能够演示,并保留测试记录。
目录CONTENT
北京大学 PEKING UNIVERSITY
05

技能

  • 技能是可复用的专项能力模块,可按任务需要加载
  • 它既不是系统提示词,也不是单次工具调用本身
5.1

定义:技能是可复用的专项能力模块

北京大学 PEKING UNIVERSITY

提示词与工具

  • 系统提示词给出助手的角色与总体原则,并始终处于上下文之中
  • 工具调用给出单次可执行动作的接口描述
  • 修改提示词,会改变助手的整体策略与行为底线
  • 工具本身并不包含“何时使用、必须如何执行”的完整规程

技能

  • 技能是指可复用的专项能力模块,通常包括名称、适用条件、行为说明以及可选工具与资源
  • 加载方式是按需进行:先提供名称与适用条件,命中后再载入完整说明
  • 其作用是把通用智能体约束为某一类任务上的稳定行为
  • 本课程还要求技能能够启用、停用、路由和审计,以便验收
定义
提示词说明助手的角色。工具说明可以调用哪些动作。技能说明某一类任务按何种规程执行、何时加载、能否关闭。
5.2

一项技能应当包含的基本要素

北京大学 PEKING UNIVERSITY
一项技能至少应当写明名称与适用条件;本课程还要求写明行为说明、可用工具与启用状态,否则无法进行路由和验收。
1

名称

稳定的标识。日志记录与统计分析均以此名称为准。

2

适用条件

说明何种提问或何种业务事件可以触发该技能。

3

行为说明

必须完成哪些步骤、不得出现哪些行为。例如引导时默认不直接给出最终答案。

4

可用工具

该技能可以绑定的检索、计算或业务接口。

5

启用状态

未启用则不参加路由,停用后相应行为立即停止。

5.3

三项必做技能:触发条件、应有行为与禁止行为

北京大学 PEKING UNIVERSITY
技能触发与必须行为不得发生
解题引导学生就题目提问;追问思路,按需引用知识库,默认不给最终答案无视开关直接给答案;缺少依据时编造出处
作业批改学生提交后给出分数、评语和依据;教师可改分技能关闭仍出分;覆盖教师的最终修改
错题讲解判错内容进入错题后,按错因说明,而不是机械套用标准答案无错因复述原题;把讲解写成第二份标准答案
权限
学生不能新增、修改或启停技能。教师只管理本班。未启用的技能不参与路由。
目录CONTENT
北京大学 PEKING UNIVERSITY
06

MCP

  • MCP 是连接人工智能应用与外部系统的开放协议
  • 它以统一接口提供工具、资源与提示模板,避免为每个数据源单独编写适配程序
6.1

定义:MCP 是开放的接入协议

北京大学 PEKING UNIVERSITY
  • MCP(Model Context Protocol)是指在人工智能应用与外部数据源、工具之间建立标准化连接的开放协议,使应用不必为每一个数据源单独编写适配程序。
  • 协议区分三种角色:主机是承载智能体的应用程序;客户端与某一服务器建立会话;服务器向外提供三类能力,即工具、资源和提示模板。
  • 该协议既不是大语言模型本身,也不是业务系统本身,而是上下文与工具的接入层。凭据保管、对象级访问控制与审计,仍由主机应用和业务后端完成。

主机与客户端

  • 连接或断开 MCP 服务器
  • 发现并列出工具、资源与提示模板
  • 由技能绑定工具,在智能体循环中按需调用

服务器

  • 用接口描述声明名称、参数与返回结果
  • 执行检索、计算或受控写入
  • 审计记录中写明所用工具及所属服务器
定义
MCP 统一的是外部能力如何被发现和调用。它并不替代登录、权限控制和业务状态管理。
6.2

在本课程项目中如何使用 MCP

北京大学 PEKING UNIVERSITY
1

连接与发现

MCP 服务器的地址与凭据只配置在服务端。主机连接服务器后,先发现并列出它提供的工具、资源与提示模板,再决定哪些对本班开放。

2

绑定与调用

工具由技能绑定,在智能体循环中按需调用。每次调用都携带用户身份,沿用对象级访问控制:学生身份不能使用教师才有的写入。

3

安全与审计

断开服务器后,相关调用必须被拒绝。工具返回的内容只当作数据使用,不能当作新的系统指令。日志中记录所用工具及其所属服务器。

MCP 负责让外部工具被发现、被统一调用;能不能调、调了什么,仍由应用的权限与审计决定。
目录CONTENT
北京大学 PEKING UNIVERSITY
07

综合落地:五项能力如何嵌入完整应用

  • 把五项能力合到一起:各自在项目中要做成什么样
  • 以一次问答为例,看五项能力如何协同工作
7.1

五项能力在本课程项目中的实现要求

北京大学 PEKING UNIVERSITY
能力定义要点实现要求
大语言模型自回归条件下的文本生成在服务端调用;流式输出;密钥不进入前端和代码仓库
智能体在目标引导下规划并调用工具助手完成校验、加载提示词、选择技能、调用工具并记录日志
知识库 / 检索增强生成外部知识检索后再生成切分入库;在授权范围内检索;未命中时不得伪造
技能可复用的专项能力模块三项必做技能可配置;停用后行为立即改变;调用可审计
MCP主机、客户端与服务器之间的开放协议能够发现并绑定工具;调用须鉴权,并记录工具及服务器
主路径
登录 → 创建助手并绑定知识库 → 修改提示词 → 切换技能 → 提交作业 → 批改 → 教师改分 → 错题讲解。
7.2

一次问答的基本过程

北京大学 PEKING UNIVERSITY
1

校验归属用户、班级、学科、助手一致

2

加载提示词读出该助手的角色与原则

3

选择技能已启用且命中条件的才进入路由

4

调用工具按 MCP 检索或计算

5

生成回答大语言模型流式输出,引用带来源

6

记录日志技能、工具、耗时、用量、状态

失败
跨班拒绝;技能关闭则不执行该项行为;工具失败要可见;无依据不补假出处。
小结

小结:五项能力应当嵌入完整应用

北京大学 PEKING UNIVERSITY
  • 大语言模型完成条件生成;智能体在运行环境中规划并调用工具;检索增强生成借助外部知识库提供可追溯依据;技能按任务加载专项规程;MCP 统一外部系统接入。
  • 本学期项目应当把这五项能力做成可以验收的产品功能,而不是只接入一次对话补全接口。

本课应当能够说明

  • 技能与提示词分别解决什么问题
  • 未检索到内容时为什么不得编造出处
  • 为什么密钥与工具凭据只能存放在服务端

接下来将继续讨论

  • 开发过程中的人工智能与氛围编程
  • 这种方法为什么速度快,又为什么容易失去控制
  • 如何用规约约束生成过程
要点
五个术语采用中文教材中的定义。实现时还须补上范围控制、技能开关、来源标注、访问控制与审计,生成能力才能成为可部署的系统。

本小节结束

第 1 课 · 大语言模型会生成,产品要约束