AI / ML / DL 概念全景
理清人工智能、机器学习、深度学习三者的关系与区别，回顾 AI 发展历程，把握当前技术范式。
基本概念
人工智能、机器学习、深度学习的关系
用 同心圆 模型理解：AI（最外层）⊃ ML（中间层）⊃ DL（最内层）
- 人工智能（Artificial Intelligence） — 让机器模拟人类智能行为的广大学科
- 机器学习（Machine Learning） — AI 的子集，让机器从数据中自动学习规律
- 深度学习（Deep Learning） — ML 的子集，使用多层神经网络进行学习
图灵测试
图灵测试（Turing Test, 1950）
- 由艾伦·图灵在论文《Computing Machinery and Intelligence》中提出
- 设置：人类裁判通过文本与机器和另一人类对话，若裁判无法区分机器与人类，则机器通过测试
- 局限：只关注行为模拟，不关注智能的本质；程序可能通过欺骗而非真正智能通过测试
符号主义 vs 连接主义
符号主义（Symbolism）
- 核心思想：智能的本质是符号操作和逻辑推理
- 代表：专家系统、知识图谱、GOFAI（Good Old-Fashioned AI）
- 优势：可解释性强、推理过程透明
- 局限：难以处理模糊和不确定性、知识获取瓶颈
连接主义（Connectionism）
- 核心思想：智能由大量简单单元的连接和交互涌现
- 代表：神经网络、深度学习
- 优势：能从数据中自动学习特征、容错性强
- 局限：可解释性差、计算资源需求大
对比总结
| 维度 | 符号主义 | 连接主义 |
|---|---|---|
| 核心思想 | 智能 = 符号操作 + 逻辑推理 | 智能 = 大量简单单元的连接与交互涌现 |
| 代表技术 | 专家系统、知识图谱、GOFAI | 神经网络、深度学习 |
| 优势 | 可解释性强、推理过程透明 | 自动学习特征、容错性强 |
| 局限 | 难以处理模糊和不确定性、知识获取瓶颈 | 可解释性差、计算资源需求大 |
| 学习方式 | 人工编写规则 | 从数据中自动学习 |
当前范式：连接主义为主，符号主义为辅
- 深度学习占据主流，但符号推理在知识图谱、因果推理等领域仍有价值
- 神经符号系统（Neural-Symbolic）试图融合两者
AI 发展三起两落
第一次浪潮（1956—1974）：符号主义黄金时代
- 1956 达特茅斯会议标志 AI 诞生
- 逻辑理论家、通用问题求解器
- 机器翻译（俄语→英语）初步尝试
- 第一次低谷（1974—1980）：机器翻译报告失败、Lighthill 报告导致英国政府削减 funding、感知机局限性被证明
第二次浪潮（1980—1987）：专家系统时代
- 专家系统在医疗（MYCIN）、地质（PROSPECTOR）等领域取得商业成功
- 日本第五代计算机计划
- 反向传播算法重新发现（Rumelhart, 1986）
- 第二次低谷（1987—1993）：专家系统维护成本高、日本第五代计划未达预期、计算能力不足
第三次浪潮（2006—至今）：深度学习革命
- 2006 Hinton 提出深度信念网络（DBN），深度学习"重启"
- 2012 AlexNet 在 ImageNet 上取得突破性成绩
- 2016 AlphaGo 击败李世石
- 2017 Transformer 架构提出（Vaswani et al.）
- 2020 GPT-3 展现大语言模型能力涌现
- 2022 ChatGPT 发布，AI 进入大众视野
- 2023—2026 多模态、Agent、具身智能快速发展
当前范式
大语言模型（LLM）时代
- 以 GPT、LLaMA、Qwen、DeepSeek 等为代表
- Scaling Law：模型规模 + 数据规模 + 计算规模驱动能力提升
- 能力涌现：超过一定规模后出现思维链、上下文学习等能力
多模态融合
- 文本 + 图像 + 语音 + 视频联合理解与生成
- CLIP、BLIP、Qwen-VL、GPT-4V 等代表模型
AI Agent
- 从被动问答到主动执行任务
- ReAct 范式、工具使用、多智能体协作
对齐与安全
- RLHF/DPO 使模型符合人类偏好
- 模型幻觉、安全对齐、AI 治理成为重要方向
总结要点
- AI ⊃ ML ⊃ DL 的包含关系
- 符号主义（解释性）vs 连接主义（数据驱动）
- AI 经历三次浪潮、两次低谷，当前处于深度学习驱动的第三次浪潮
- 当前范式：大语言模型 + 多模态 + Agent + 对齐安全