HeadlinesBriefing favicon HeadlinesBriefing.com

GitHub:免费 Groq API 上的 AI 工程师笔记本

Hacker News •
×

动手、无框架的 Colab 笔记本,教授 AI 工程师和前置部署工程师(FDEs)的应用-LLM 堆栈。学习模型 API、RAG、评估、智能体、适配和服务,使用原始 API 调用而非 LangChain 或 LlamaIndex 等包装器。一切在免费 Groq API 上运行(无需信用卡),LoRA 微调和自托管服务作为可选的 GPU 附录。

评估是脊梁:早期培养“先测后调”习惯,并在每个部分中回归。三个真实案例研究包括生产支持助手、管道 vs 智能体成本对决和红队鲁棒性基准。

学习顺序:00 设置,01 模型 API,02 评估 I,03 RAG,04 评估 II,05 智能体,06 微调 vs LoRA,07 服务,08 提示注入/安全,09 LLMOps,10 客户工艺。每个笔记本都是自包含的,从 Colab 密钥读取 API 密钥,并以练习结束。

作为《计划:过渡到 FDE/AI 工程师》的动手伴侣构建。全程 OpenAI 兼容,并提供可替换的 Anthropic 模式。面向后端或全栈工程师转向 AI 角色,能够交付生产代码并希望掌握应用模型层的人员。

关键实体:公司:Groq, OpenAI, Anthropic, LangChain, LlamaIndex, Colab