Meta開源FACET工具，用于評估AI模型中的種族和性別偏見

IT之家 9 月 2 日消息，Meta 公司為了緩解當前很多計算機視覺模型對女性、有色人種存在系統性偏見問題，近日推出了名為 FACET 的全新 AI 工具，用于識別計算機視覺系統中的種族和性別偏見。

FACET 工具目前經過 3 萬張圖片、含 5 萬人圖像的訓練，特別增強了性別和膚色方面的感知，可以用于評估計算機視覺模型在各種特征。

FACET 工具在經過訓練之后可以回答復雜問題，例如識別出對象為男性之后，可以進一步識別出滑板運動員，以及淺色、深色皮膚。

Meta 以 FACET 來評測該公司所開發的 DINOv2 模型與 SEERv2 模型，以及 OpenAI 的 OpenCLIP 模型，整體而言，OpenCLIP 在性別上的表現優于其它模型，而 DINOv 則在年齡與膚色上有較佳的判斷力。

FACET 的開源將有助于研究人員執行類似的標竿測試，以理解自己的模型中所存在的偏見，亦可用來監控為了解決公平問題而采取的緩解措施所造成的影響。IT之家在此附上 Meta 新聞稿地址，感興趣的用戶可以深入閱讀。