← 返回项目列表

应用机器学习 / 2025

多模态灾害分类

基于 CrisisMMD 数据集,使用文本、图像和微调后的视觉语言模型进行灾害信息分类。

任务与数据集

项目基于 CrisisMMD 数据集,覆盖仅文本、仅图像和文本加图像三种输入设置,对灾害相关社交媒体内容进行信息有效性和人道主义类别分类。相关成果发表于 ASONAM 2025,我担任第一作者。

模型与实验

我负责项目推进、Gemma/Llama 模型实验、提示词设计和参数高效微调。以 Gemma 3-4B 为基座,通过标签优化与提示词工程,报告的信息有效性分类准确率从约 73% 提升至 85.53%。

针对 Llama 3.2-11B Vision,使用 LoRA 在文本与图像双输入下微调;报告的信息有效性和人道主义分类准确率分别为 94.78% 与 91.62%。这些分数对应本项目在 CrisisMMD 上的具体分类任务。

实验工具

使用 Python 脚本批量生成不同超参数实验,管理多 GPU 训练任务,并以 PyTorch、Transformers 和 scikit-learn 完成训练和结果分析。

下一个项目lAIfe