4

Android 端侧大模型开发

目标：在比赛专用手机上完成基座初始化、LoRA 加载与一次效果对比

📱

端侧实验使用现场提供的比赛专用手机（USB + ADB），不使用云真机。 官方文档：SDK 接入 id=1802 · Demo 下载 id=1803。 端侧背景与 Android 工程接入见 端侧开发参考。

实践步骤

  1. ① USB 连接专用手机，确认 adb devices 为 device
    bash
    adb devices
adb install -r path/to/demo.apk
  2. ② 安装 Demo，授予文件访问权限，按赛项说明初始化基座模型

    示例路径：/sdcard/1225/1.7.0.4_1225_mtk9500（以赛项预置为准）。选择「纯文本对话」并初始化。

    端侧 Demo 初始化

    图 4-1 初始化模型

  3. ③ 推送模块二转换产物到手机同一目录

    解压 output.zip，须含 bluelm_mtk_llm_lora_config.json 与全部 lora_chunk_*.bin。

    bash
    adb shell mkdir -p /sdcard/lora_test
adb push bluelm_mtk_llm_lora_config.json /sdcard/lora_test/
adb push lora_chunk_*.bin /sdcard/lora_test/
  4. ④ 在 Demo 中加载 LoRA，用固定问题做基座 / LoRA 对比

    lora_name 须与配置文件一致（示例 lora_test）。确认状态为「LoRA 已加载」后提问。

    端侧对话

    图 4-2 查看端侧回复

  5. ⑤ 完成上述流程并记录对比结果
环境清单、SDK 接入与排查见 端侧开发参考；出处与讲义见端侧能力宣讲。