GazeMoDA checkpoints
GazeMoDA 项目(华为"未来终端"第二期 · 难题5:手机前置单摄像头 2D 注视点估计)的权重。
全部为纯 state_dict(推理权重),不含优化器状态。
文件
| 文件 | 大小 | md5 | 内容 | 手机 dot(val) |
|---|---|---|---|---|
teacher/dinov3_teacher_ep1.pt |
86.9 MB | 579d058a7d3203f7bd20c57769cce80d |
DINOv3 ViT-S/16 三路教师,ep1 | 1.4471 |
teacher/dinov3_teacher_ep4.pt |
86.9 MB | 51821f4ec3407f2b79f1fa85d6c91670 |
同上,ep4 | 1.4942 |
e1_l4/e1_l4_ep4.pt |
9.1 MB | 8e1f3be92d5fad0493e394c22ee74f66 |
学生 e1_l4,ep4 |
2.0873 |
a1_e0s/e0_s_ep4.pt |
44.4 MB | 214d9f50412d742cda29e6e5407d933d |
A1(TransGaze 忠实复现),ep4 | 1.5753 |
a1_nopre/e0_s_ep4.pt |
44.4 MB | 89e1740542c59d0f61268cd67d567339 |
A1 无预训练版,ep4 | 2.1330 |
评测条件:GazeCapture validation split,手机样本,dot error(段内预测先平均再计算误差)。
模型结构
| 模型 | 结构 | 参数量 | FLOPs/样本 |
|---|---|---|---|
| 教师 | DINOv3 ViT-S/16 三路([gaze, reg×4, 右眼196, 整脸196, 左眼196],T=593) |
21.71M | 32.012 G |
学生 e1_l4 |
TransGaze 结构,P=28 / D=192 / L=4 / 3 头 | 2.27M | 0.971 G |
| A1 | TransGaze 结构,P=14 / D=384 / L=6 / 6 头 | 11.09M | 22.13 G |
输入为三路图像(整脸 224×224、左眼 96×224、右眼 96×224),整帧为拉伸(stretch)处理。
训练数据
GazeCapture(Krafka et al., CVPR 2016)的裁剪派生版:
- train 1,271 subjects / 1,251,983 帧
- val 50 subjects / 59,480 帧
- test 150 subjects / 179,496 帧
同一数据集的预处理版本见 yuhanwang030409/gazecapture-processed。
许可
| 权重 | 说明 |
|---|---|
教师(teacher/*) |
由 timm/vit_small_patch16_dinov3_qkvb.lvd1689m 初始化后微调,继承 Meta DINOv3 License |
A1(a1_e0s/*、a1_nopre/*) |
由 DINOv2 ViT-S/14 初始化(a1_nopre 为随机初始化)后训练 |
学生(e1_l4/*) |
从随机初始化训练 |
训练数据 GazeCapture 的使用受其官方许可约束,仅限研究用途。
引用
@inproceedings{krafka2016eye,
title={Eye Tracking for Everyone},
author={Krafka, Kyle and Khosla, Aditya and Kellnhofer, Petr and Kannan, Harini
and Bhandarkar, Suchendra and Matusik, Wojciech and Torralba, Antonio},
booktitle={IEEE Conference on Computer Vision and Pattern Recognition (CVPR)},
year={2016}
}
@article{transgaze2024,
title={TransGaze: Exploring plain vision transformers for gaze estimation},
journal={Machine Vision and Applications},
year={2024}
}
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support