应用机器学习 / 2025
多模态灾害分类
基于 CrisisMMD 数据集,使用文本、图像和微调后的视觉语言模型进行灾害信息分类。
任务与数据集
项目基于 CrisisMMD 数据集,覆盖仅文本、仅图像和文本加图像三种输入设置,对灾害相关社交媒体内容进行信息有效性和人道主义类别分类。相关成果发表于 ASONAM 2025,我担任第一作者。
模型与实验
我负责项目推进、Gemma/Llama 模型实验、提示词设计和参数高效微调。以 Gemma 3-4B 为基座,通过标签优化与提示词工程,报告的信息有效性分类准确率从约 73% 提升至 85.53%。
针对 Llama 3.2-11B Vision,使用 LoRA 在文本与图像双输入下微调;报告的信息有效性和人道主义分类准确率分别为 94.78% 与 91.62%。这些分数对应本项目在 CrisisMMD 上的具体分类任务。
实验工具
使用 Python 脚本批量生成不同超参数实验,管理多 GPU 训练任务,并以 PyTorch、Transformers 和 scikit-learn 完成训练和结果分析。