Meta開源FACET工具，用于評估AI模型中的種族和性別偏見

IT之家 9 月 2 日消息，Meta 公司為了緩解當前很多計算機視覺模型對女性、有色人種存在系統(tǒng)性偏見問題，近日推出了名為 FACET 的全新 AI 工具，用于識別計算機視覺系統(tǒng)中的種族和性別偏見。

FACET 工具目前經(jīng)過 3 萬張圖片、含 5 萬人圖像的訓練，特別增強了性別和膚色方面的感知，可以用于評估計算機視覺模型在各種特征。

FACET 工具在經(jīng)過訓練之后可以回答復(fù)雜問題，例如識別出對象為男性之后，可以進一步識別出滑板運動員，以及淺色、深色皮膚。

Meta 以 FACET 來評測該公司所開發(fā)的 DINOv2 模型與 SEERv2 模型，以及 OpenAI 的 OpenCLIP 模型，整體而言，OpenCLIP 在性別上的表現(xiàn)優(yōu)于其它模型，而 DINOv 則在年齡與膚色上有較佳的判斷力。

FACET 的開源將有助于研究人員執(zhí)行類似的標竿測試，以理解自己的模型中所存在的偏見，亦可用來監(jiān)控為了解決公平問題而采取的緩解措施所造成的影響。IT之家在此附上 Meta 新聞稿地址，感興趣的用戶可以深入閱讀。