AI工具箱 · 全场景开源AI工具与开发框架知识全景图

AI不是单一技术，而是五层结构的完整产业链。记住这张图，你就看懂了整个AI世界：

• 算力硬件层（地基）：跑AI的电脑、显卡、服务器。没有硬件，AI跑不起来。
• 基础大模型层（大脑）：通用LLM、多模态模型。这是AI的"智力来源"。
• AI开发工具层（工具箱）：微调、量化、向量库、MLOps。用来改造和部署大模型的工具。
• 应用增强层（外挂）：提示词、RAG知识库、Agent智能体。让大模型变强、变准、变自动。
• 行业落地层（实战）：电气仿真、金融量化、医疗影像、办公文档等各行业专用AI工具。

每一层善智导航都有对应的工具分类，往下看就能找到。

为什么本地跑大模型需要显卡？显卡的显存就像AI的"短期记忆"。模型越大，需要的显存越多。没有好显卡，大模型跑不动或跑得极慢。

量化是什么？给大模型"瘦身"。把模型精度从32位压到8位甚至4位，体积缩小数倍，低配电脑也能跑。但压缩过度会变"笨"一点。

知识蒸馏是什么？让一个"大老师模型"教一个"小学生模型"，小学生学到大老师的精华，但体积小得多。

边缘AI / 嵌入式AI：在单片机、机器人、摄像头里跑微型AI模型，不联网、低功耗、实时响应。

• 通用大模型：啥都能干的通用大脑。如DeepSeek、通义千问、Llama、GPT。适合日常对话、写作、翻译。
• 轻量化小模型：配置要求低，能在手机、笔记本上本地离线跑。牺牲部分能力换便携和隐私。
• 行业微调模型：在通用模型基础上，用行业资料"补课"。医疗微调模型看病更准，电气微调模型分析电路更专业。
• 代码专用模型：专门训练来写代码、调试、解释代码的大模型，程序员效率神器。
• 多模态模型：不仅能处理文字，还能看懂图片、听懂语音、生成视频。是AI走向"全感官"的方向。

如果大模型是"成品大脑"，MLOps框架就是"造大脑、改大脑、维护大脑的工厂工具"。

• 深度学习框架：PyTorch、TensorFlow等，用来搭建和训练神经网络的底层工具。
• 微调工具：拿自己的行业资料，改造大模型让它适配你的业务。不需要从头训练一个模型。
• 向量数据库 / RAG配套：把文档变成AI能读懂的"记忆"。企业知识库的核心技术。
• AutoML：自动机器学习，不用写代码，系统自动帮你训练和优化模型。
• 模型部署流水线：把训练好的模型上线到服务器、App里，让用户真正用上。
• 实验追踪与版本管理：记录每次训练的参数和结果，方便对比和回滚。

5.1 提示词工程 —— 和AI沟通的"标准话术模板"。好的提示词决定AI输出质量。包括角色化提示词、批量生成、Agent专用提示词等。
👉 进入AI提示词与交互资源 →

5.2 RAG私有知识库 —— 给AI加装专属私人资料库。AI不再胡说，只按你上传的文档回答。企业、科研、行业必备。核心技术是向量检索。
👉 进入私有知识库与数字孪生工具 →

5.3 Agent AI智能体 —— 会自主思考、分步完成复杂任务的AI机器人。能自动调用工具、多步骤完成工作。比如自动写代码→测试→部署，或自动做报表→分析→发送邮件。
👉 进入AI智能体Agent与自动化流程 →

AI工具已经渗透到各行各业。善智导航将全部AI工具分为通用民用和垂直行业专业两大类：

🟢 通用民用AI工具：办公文档、图像设计、音视频处理、写作创作、生活助手、电商创业、提示词资源、学习资源——普通人日常使用，零门槛上手。

🔵 垂直行业专业AI工具：编程开发、科研论文、行业仿真（电气/机械/土木）、金融量化、医疗影像、工业质检、运维安全、具身智能机器人——工程师和专业从业者专用。

👇 下方18大工具分类卡片已为你全部整理好，点击任意分类即可进入对应聚合页。

企业私有化部署AI，安全合规是底线。以下是必须了解的核心概念：

• 提示词注入攻击：坏人用特殊提示词绕过AI的限制，让它说出不该说的话或泄露数据。
• 数据脱敏：把敏感信息（身份证号、手机号、银行卡号）自动识别并替换成占位符，保护隐私。
• 模型隐私：防止通过反复提问从AI嘴里"套出"训练数据中的隐私信息。
• 模型漂移监控：模型上线后，随着时间推移和数据变化，效果可能下降。需要持续监控和预警。
• 合规校验：确保AI的输出符合法律法规要求，不生成违规内容。