Skip to content

Computer Use 桌面控制 ​

HiPMMCode v1.0.0 可以复用本机 Codex 已安装的 computer-use 插件,读取和操作 macOS 或 Windows 上的桌面应用。HiPMMCode 不会在自己的发行包中复制 Codex、插件或原生 Computer Use 服务。

前置条件 ​

  1. 本机已经安装并可运行 Codex CLI;
  2. Codex 中已经安装并启用官方 computer-use 插件;
  3. 使用受支持的 macOS 或 Windows 环境;
  4. HiPMMCode 不是以 --safe-mode 或 --bare 启动。

Linux 会在 OpenAI 提供兼容的本地原生服务前保持不可用。

开启 ​

在 HiPMMCode REPL 中输入:

text
/computer-use

用方向键选择“开启”,然后按回车。也可以直接执行:

text
/computer-use on

开关会保存为配置项 codexComputerUse=true。当前会话的 Skills、工具目录、补全和系统提示会立即重建,不需要退出 HiPMMCode。

查看状态 ​

text
/computer-use status

状态页会显示:

  • HiPMMCode 独立开关是否开启;
  • 是否发现已安装并启用的 Codex Computer Use 插件;
  • 原生运行时是否已经连接;
  • 系统授权由哪个外部服务负责。

连接失败时再查看:

text
/mcp status

使用 ​

开启后可以直接用自然语言描述任务,例如:

text
查看 Safari 当前页面,把页面标题和主要内容总结给我。
text
打开系统设置,告诉我当前显示器的缩放选项,但不要修改任何设置。

模型只会看到 HiPMMCode 固定、类型化的 Computer Use 工具,例如读取应用状态、点击、滚动、按键和输入文本。原始 node_repl JavaScript 工具不会进入模型工具目录。

授权与安全边界 ​

  • 第一次访问某个桌面应用时,系统原生 Computer Use 服务可能请求 macOS/Windows 授权;
  • HiPMMCode 会按应用和会话控制工具审批,模型不能自行扩大授权范围;
  • 普通只读查看和低影响操作可以直接执行;
  • 发送数据、删除内容、购买、修改安全设置等动作需要明确授权;
  • 登录凭据、安全警告、验证码和高影响决定会交还用户本人处理;
  • --safe-mode 和 --bare 会关闭该集成。

在系统界面点击 Stop Using HiPMMCode 时,原生服务会立即停止桌面控制。这项授权独立于 HiPMMCode 的插件发现和配置开关。

关闭 ​

text
/computer-use off

关闭后,Computer Use Skill 和类型化工具会立即从当前会话移除。

排错 ​

显示 plugin: not detected ​

确认 Codex 已安装官方 computer-use 插件且插件处于启用状态,然后重新启动 HiPMMCode 或执行 /reload-skills。

显示 connection failed ​

执行 /mcp status 查看详细错误,并确认本机 Codex CLI 与插件运行时均为当前版本。

开关开启但模型没有桌面工具 ​

确认当前不是 --safe-mode / --bare,再运行 /computer-use status。如果开关或插件状态发生变化,可运行 /reload-skills 重建目录。