Computer Use 桌面控制
HiPMMCode v1.0.0 可以复用本机 Codex 已安装的 computer-use 插件,读取和操作 macOS 或 Windows 上的桌面应用。HiPMMCode 不会在自己的发行包中复制 Codex、插件或原生 Computer Use 服务。
前置条件
- 本机已经安装并可运行 Codex CLI;
- Codex 中已经安装并启用官方
computer-use插件; - 使用受支持的 macOS 或 Windows 环境;
- HiPMMCode 不是以
--safe-mode或--bare启动。
Linux 会在 OpenAI 提供兼容的本地原生服务前保持不可用。
开启
在 HiPMMCode REPL 中输入:
/computer-use用方向键选择“开启”,然后按回车。也可以直接执行:
/computer-use on开关会保存为配置项 codexComputerUse=true。当前会话的 Skills、工具目录、补全和系统提示会立即重建,不需要退出 HiPMMCode。
查看状态
/computer-use status状态页会显示:
- HiPMMCode 独立开关是否开启;
- 是否发现已安装并启用的 Codex Computer Use 插件;
- 原生运行时是否已经连接;
- 系统授权由哪个外部服务负责。
连接失败时再查看:
/mcp status使用
开启后可以直接用自然语言描述任务,例如:
查看 Safari 当前页面,把页面标题和主要内容总结给我。打开系统设置,告诉我当前显示器的缩放选项,但不要修改任何设置。模型只会看到 HiPMMCode 固定、类型化的 Computer Use 工具,例如读取应用状态、点击、滚动、按键和输入文本。原始 node_repl JavaScript 工具不会进入模型工具目录。
授权与安全边界
- 第一次访问某个桌面应用时,系统原生 Computer Use 服务可能请求 macOS/Windows 授权;
- HiPMMCode 会按应用和会话控制工具审批,模型不能自行扩大授权范围;
- 普通只读查看和低影响操作可以直接执行;
- 发送数据、删除内容、购买、修改安全设置等动作需要明确授权;
- 登录凭据、安全警告、验证码和高影响决定会交还用户本人处理;
--safe-mode和--bare会关闭该集成。
在系统界面点击 Stop Using HiPMMCode 时,原生服务会立即停止桌面控制。这项授权独立于 HiPMMCode 的插件发现和配置开关。
关闭
/computer-use off关闭后,Computer Use Skill 和类型化工具会立即从当前会话移除。
排错
显示 plugin: not detected
确认 Codex 已安装官方 computer-use 插件且插件处于启用状态,然后重新启动 HiPMMCode 或执行 /reload-skills。
显示 connection failed
执行 /mcp status 查看详细错误,并确认本机 Codex CLI 与插件运行时均为当前版本。
开关开启但模型没有桌面工具
确认当前不是 --safe-mode / --bare,再运行 /computer-use status。如果开关或插件状态发生变化,可运行 /reload-skills 重建目录。