CAMPHOR：斯坦福大学和苹果联合推出的小型语言模型多代理框架

CAMPHOR简介

CAMPHOR是由斯坦福大学和苹果公司联合开发的一种创新的在设备上运行的小型语言模型多代理框架。它专门设计用于处理多用户输入，并在本地进行高阶推理，以确保用户隐私得到保护。通过分层架构和参数共享，CAMPHOR显著降低了模型大小、延迟和内存使用，同时在任务完成的准确性上超越了封闭源的大型语言模型。

CAMPHOR主要功能

1. 多用户输入处理：能够同时处理多个用户的输入，提供个性化服务。
2. 本地高阶推理：在用户设备上进行复杂的任务分解和推理，保护用户隐私。
3. 隐私保护：通过在本地处理个人数据和用户查询，减少对服务器的依赖，增强隐私保护。
4. 任务分解与协调：高阶推理代理将复杂任务分解，并协调专家代理完成子任务。
5. 动态计划生成：根据用户输入和设备上下文动态生成任务执行计划。
6. 跨代理参数共享：不同代理间共享参数，减少模型复杂度和资源消耗。
7. 提示压缩技术：通过压缩技术减少模型提示长度，优化设备上的推理效率。

CAMPHOR技术原理

1. 分层架构：采用高阶推理代理和多个专家代理的分层架构，分工明确，协同工作。
2. 专家代理系统：包括个人上下文检索、工具交互和动态计划生成等专家代理，各司其职。
3. 参数共享：不同代理间共享参数，减少模型大小，提高效率。
4. 动态提示构建：根据代理特定任务和历史消息动态构建提示，生成可执行的函数调用。
5. 提示压缩：将函数定义压缩成单个标记，减少提示长度，适应设备上的内存和计算限制。
6. 设备特定工具箱推理：利用设备上安装的应用程序和个人数据库，进行个性化的工具箱推理。
7. 多代理任务轨迹数据集：创建了包含多代理执行轨迹的数据集，用于模拟用户设备状态和查询理解。
8. 微调SLM代理：在特定数据集上微调小型语言模型代理，以提高任务完成的准确性和效率。

CAMPHOR应用场景

1. 个性化行程规划：用户可以查询特定目的地的航班信息，并自动添加到个人日历中，同时通知旅行伙伴。
2. 智能日程管理：根据用户的个人日历和偏好，自动安排会议和提醒，提高时间管理效率。
3. 健康管理：集成健康数据，提醒用户服药时间，或根据运动数据提供健康建议。
4. 个性化新闻推荐：根据用户的阅读历史和兴趣，推送相关新闻内容。
5. 智能邮件处理：自动分类和回复邮件，特别是对于包含特定关键词的工作邮件，提高办公效率。
6. 本地搜索优化：在设备上快速检索用户的历史搜索记录和常用网站，提供更快捷的搜索体验。

CAMPHOR项目入口

• 项目主页：https://machinelearning.apple.com/research/collaborative-agents
• arXiv技术论文：https://arxiv.org/pdf/2410.09407