项目 / Rabbit SignLink

Rabbit SignLink

使用 computer vision、local LLM processing 和 voice feedback 的 real-time sign language assistant。

Rabbit SignLink 是一个 archived AI sign language assistant。它使用 PyQt5、OpenCV、TensorFlow/Keras、SIFT/FLANN feature matching、CNN ASL model、local Ollama processing、Edge TTS 和 audio playback 来识别 hand gestures、组装句子并返回语音反馈。

链接
GitHub

面向学术与研究社区:该项目最初是一个 open-source research initiative,用于探索面向聋人和听障社区的 accessibility solution。归档状态:项目已正式归档,不再活跃开发;核心依赖如旧版 Keras/TensorFlow 可能已经过时。归档目的:当前所有更新和配置仅用于归档、历史保存和学术参考。

概览
Rabbit SignLink 专注于通过 real-time gesture recognition 实现 assistive interaction。它结合 desktop GUI、tutorial flows、hybrid recognition、local language processing 和 voice synthesis。
问题
Sign language learning 与 communication tools 需要 real-time feedback、accessible UI,以及对 static signs 和 custom gestures 都足够稳健的 recognition。一个有用的 prototype 必须在处理 video、model inference 和 audio 时保持 UI responsive。
角色
Founder / Computer Vision Engineer / AI Developer
方法
项目结合 HSV hand ROI extraction、面向 ASL alphabet signs 的 CNN classification、面向 custom gestures 的 SIFT + FLANN matching、asynchronous PyQt threading、Ollama text processing 和 Edge TTS playback。
结果
CNN + SIFT
hybrid sign recognition pipeline
PyQt5
desktop learning and recognition flows
Assistive AI
LLM and speech feedback for recognized signs

项目亮点

Rabbit SignLink

使用 computer vision、local LLM processing 和 voice feedback 的 real-time sign language assistant。

问题

Sign language learning 与 communication tools 需要 real-time feedback、accessible UI,以及对 static signs 和 custom gestures 都足够稳健的 recognition。一个有用的 prototype 必须在处理 video、model inference 和 audio 时保持 UI responsive。

方法

项目结合 HSV hand ROI extraction、面向 ASL alphabet signs 的 CNN classification、面向 custom gestures 的 SIFT + FLANN matching、asynchronous PyQt threading、Ollama text processing 和 Edge TTS playback。

结果

构建 hybrid sign recognition pipeline,结合 CNN classification 与 SIFT/FLANN matching。

视频与演示

Timeline

2023
01. Discovery
2023
02. Architecture
2023
03. Prototype
2023
04. Validation
2023
05. Archive / Iterate

项目背后

概览

Rabbit SignLink 专注于通过 real-time gesture recognition 实现 assistive interaction。它结合 desktop GUI、tutorial flows、hybrid recognition、local language processing 和 voice synthesis。

问题

Sign language learning 与 communication tools 需要 real-time feedback、accessible UI,以及对 static signs 和 custom gestures 都足够稳健的 recognition。一个有用的 prototype 必须在处理 video、model inference 和 audio 时保持 UI responsive。

方法

项目结合 HSV hand ROI extraction、面向 ASL alphabet signs 的 CNN classification、面向 custom gestures 的 SIFT + FLANN matching、asynchronous PyQt threading、Ollama text processing 和 Edge TTS playback。

Gallery

对这个项目感兴趣?

一起构建适合真实 workflow 的 AI 与 edge 系统。

联系合作
分享这个项目: