【烽巢網】

人工智能現在研究所(AI Now Institute)的研究人員在今天發布的一份報告中表示，人工智能行業正面臨“多樣性危機”，這對該領域的發展方向提出了關鍵問題。

報告發現，女性和有色人種被嚴重低估。報告指出，研究發現，約80%的人工智能教授是男性，而Facebook和谷歌的人工智能研究人員中，只有15%和10%是女性。有色人種也被邊緣化，只占大型科技公司員工的一小部分。其結果是，勞動力往往由白人和男性視角驅動，構建的工具往往會影響其他群體。人工智能研究所副所長梅雷迪思?惠特克(Meredith Whittaker)表示:“受這些系統影響的并不是人的多樣性。”

更糟糕的是，通過修復潛在求職者的“管道”來改善這一問題的計劃基本上已經失敗。研究人員寫道:“盡管有幾十年的‘管道研究’評估了從學校到行業的不同求職者的流動情況，但人工智能行業在多樣性方面沒有取得實質性進展。”

研究人員提出了一些改進這個問題的建議。他們表示，公司可以通過發布更多的薪酬數據(按種族和性別分類)，以及發布性騷擾和歧視透明度報告，來提高透明度。

多樣性雖然是科技行業的一個障礙，但在人工智能領域卻存在著特定的危險。在人工智能領域，面部識別等可能存在偏見的技術，可能會不成比例地影響歷史上被邊緣化的群體。研究人員寫道，像2017年推出的掃描人臉以確定性別的程序這樣的工具，反映了過去的不公平。需要進行嚴格的測試。但更重要的是，人工智能工具制造商必須愿意不建造風險最高的項目。“我們需要知道這些系統是安全的，也是公平的，”AI Now研究所副所長凱特?克勞福德(Kate Crawford)表示。

科技行業的員工在一些重大人工智能問題上表明了自己的立場，敦促他們的公司放棄或審查可能傷害弱勢群體的敏感工具的使用。亞馬遜員工就該公司的面部識別產品向高管提問。最近，谷歌的員工對一個包括傳統基金會(Heritage Foundation)總統在內的人工智能審查委員會發起了反擊，指出該組織曾游說反對LGBTQ的權利問題。公司很快就完全解散了董事會。

“人工智能的多樣性危機是有案可查的，影響廣泛的，”研究人員總結道。“在整個行業和學術界的不平等工作場所，在招聘和晉升方面的不平等，在反映和放大偏見成見的人工智能技術，以及在自動化系統中生物決定論的重現，都可以看到這一點。”