根据一项研究发现，虽然使用人工智能分析社交媒体可能会在白人美国人身上捕捉到抑郁的迹象，但在黑人中却无法实现这一目标。研究突显了在医疗相关任务中训练人工智能模型时缺乏多样化种族和族裔群体数据的风险。研究人员报告称，该研究使用的人工智能模型在应用于使用Meta平台的黑人Facebook用户时，对于抑郁的预测性比应用于白人用户要低三倍以上。
图源备注：图片由AI生成，图片授权服务商Midjourney
报告指出:“在基于语言的心理疾病评估工作中，种族似乎特别被忽视。”此前的研究表明，经常使用第一人称代词（如我、我自己）和特定类别的词语(如自我贬低的术语)的人更容易患抑郁症。
研究人员使用了一个“现成的”人工智能工具来分析来自868名志愿者的帖子，其中包括相同数量的黑人和白人成年人，他们还具有相似的年龄和性别等其他特征。所有参与者还完成了一份由医疗保健提供者用于抑郁筛查的经过验证的问卷。
研究合著者、宾夕法尼亚医学中心洞察结果中心的Sharath Chandra Guntuku表示:“在这项新研究中，‘我谈’或自我关注，以及自我贬低、自我批评和感觉像个局外人的使用与白人个体的抑郁症有关。”
研究人员对此表示惊讶，Guntuku说:“我们对于这些在许多先前研究中发现的语言关联在全面适用上并不适用感到惊讶。”虽然社交媒体数据不能用于诊断抑郁症，但Guntuku承认，它可以用于评估个人或群体的风险。
此前，他的团队进行的一项研究分析了社交媒体帖子中的语言，以评估COVID-19大流行期间社区的心理健康情况。美国国家卫生研究院毒品滥用国家研究所的Brenda Curtis也参与了该研究，她表示，在患有物质滥用障碍的患者中，社交媒体上表现出抑郁的语言已被证明能够提供有关治疗退出和复发可能性的见解。