本文适合对 AI 模型和 API 开发没有太多经验的同学,从零开始带你搭建一个“追问式对话”AI 助教,帮助在线编程课学生解决问题。
🎯 学习目标
通过本课程,你将学会:
- 使用 GPT-OSS 开源模型
- 搭建一个 追问式对话 API
- 部署到服务器,让学生直接使用
最终,你将收获一个可用的 AI 助教!
🧩 第 1 步:环境准备
- 安装 Python 3.9+
- 安装依赖
pip install fastapi uvicorn transformers
- 确认你有一台可以运行的 GPU/CPU 机器
⚡ 第 2 步:快速搭建 API
新建 main.py
文件,写入以下内容:
from fastapi import FastAPI
from transformers import AutoTokenizer, AutoModelForCausalLM
app = FastAPI()
tokenizer = AutoTokenizer.from_pretrained("gpt-oss")
model = AutoModelForCausalLM.from_pretrained("gpt-oss")
@app.post("/qa")
def qa(user_input: str):
inputs = tokenizer(user_input, return_tensors="pt")
outputs = model.generate(**inputs, max_length=512)
return {"answer": tokenizer.decode(outputs[0], skip_special_tokens=True)}
运行:
uvicorn main:app --reload
打开 http://127.0.0.1:8000/docs 测试效果!
🛠️ 第 3 步:测试效果
输入:
print("hello"
输出:
你少写了一个括号,应该改成 print("hello")
继续追问也能正常回答,这就是 追问式对话的核心。
🚀 第 4 步:部署上线
- 使用 Docker 打包项目
- 部署到云服务器
- 把 API 地址分发给学生
学生就能直接调用啦!
📚 课后拓展
- 可以收集学生的提问,作为微调数据,提升回答质量
- 可以加入评分功能,自动检查学生的代码规范
- 可以做成小程序/网页,交互更友好
✅ 总结
通过本教程,你学会了:
- 环境搭建
- API 编写
- 部署上线
只要 3 天,你就能完成一个 AI 助教的开发!
👉 我已将完整代码与部署文档放在 官网文章,欢迎前往学习和 Star!
點擊查看更多內容
為 TA 點贊
評論
評論
共同學習,寫下你的評論
評論加載中...
作者其他優質文章
正在加載中
感謝您的支持,我會繼續努力的~
掃碼打賞,你說多少就多少
贊賞金額會直接到老師賬戶
支付方式
打開微信掃一掃,即可進行掃碼打賞哦