wx-tfjs-demo
微信小程序运行 TensorFlow 的 Demo,代码与小程序「AI Pocket」不定期同步更新。
如何运行
运行环境要求
推荐系统:MacOS
NodeJS:v18.x.x
微信基础库版本:>= 2.29.0
微信开发者工具:>= v1.06.2210310
微信开发者工具的项目配置:
- 勾选「ES6 转 ES5」
- 勾选「增强编译」
- 测试时请勾选「不校验合法域名……」
使用方式
- 克隆代码到本地
- 修改 project.config.json 中的
appid
配置 - 在小程序管理后台的“设置-第三方服务-插件管理”中,通过 appid [wx6afed118d9e81df9] 查找并添加
npm i
安装依赖(有时可能需要使用npm i --force
)npm run build
编译依赖- 手机扫描开发者工具的预览码
TLDR
早期实现方式
改造 tfjs-core,使 TensorFlow.js 可以运行在小程序中。小程序调用摄像头成像,将图片显示在 canvas
上,通过小程序的 API 可以获取到 canvas
的「类 ImageData」数据,再调用 tfjs 的 API 实现预测。
对实现的坎坷经历感兴趣的,可以看看博文 tfjs 移植到微信小程序 和 TensorFlowJS 移植再次尝试。
目前实现方式
由于 tfjs 已经优雅地实现对多平台的支持,具体表现为可以扩展 platform
实现「移植」,而且微信小程序也开放了更多有利的 API,目前不再采用侵入式地魔改 tfjs 的方式,而是借助 tfjs 的微信插件来提供模型的加载、训练、预测等功能。
尽管相比以前方便多了,但是由于小程序的 onCameraFrame
获取到的帧数据与所展示的不一致,而且是在不同的设备上(甚至相同设备的前后摄像头)对原始帧数据的处理方式都不一样,要想得到准确的预测结果,真叫人头大。
目前,我已经摸索出一套帧数据裁切方式,而且简单测试了下,效果不错。如果有照顾不到的机型,欢迎提 Issues & PR。
小程序 Demo
小程序改名「AI Pocket」了,感觉还是挺有意义的,所以我打算认真做好这个小程序了。附上小程序二维码,欢迎大家体验 & 提出改进意见!
合作与交流
合作
本人在前后端开发、Docker & Swarm、持续部署、人工智能 NLP 领域都有所积累,能够快速提供成套的解决方案,如果有机会,欢迎通过各种联系方式咨询合作事宜。
另外,本项目代码开源,欢迎各位感兴趣的同学一起添砖加瓦。当然,也不限制商用,但是请尊重他人的劳动成果,不要做一些「不厚道」的事。如果本项目对你有帮助,欢迎随意打赏。
交流
可以关注下我的 个人博客,或者个人微信公众号「猎人杂货铺」,会经常有一些技术分享 & 生活感悟,欢迎多多交流!
关注公众号,留言获取「AI Pocket 交流群」的二维码,方便交流!~