天擇貨幣買賣

Google解雇了道德操守的AI研究人員

Share on facebook
Share on twitter
Share on pinterest
Share on weibo

批評公司之後,Google已解雇了道德AI開發領域的領軍人物。

Timnit Gebru被認為是該領域的先驅,並研究了大型語言模型中發現的風險和不平等現象。

Gebru聲稱她因未發表的論文而被Google解僱,並發送批評該公司行為的電子郵件。

論文質疑語言模型是否可能太大,誰能從中受益,以及它們是否會增加偏見和不平等現象。一般而言,最近的一些案例證實了她對大型模型和數據集的主張。

例如,麻省理工學院被迫於今年早些時候刪除了一個名為“ 8000萬個小圖像”的大型數據集。該數據集在訓練AI方面很受歡迎,但發現其中包含帶有種族主義,性別歧視和其他不可接受術語的圖像。

麻省理工學院網站上的一份聲明聲稱它沒有意識到冒犯性標籤,並且“這是依賴於WordNet名詞的自動數據收集程序的結果”。

聲明繼續解釋了數據集中包含的8000萬張圖像(尺寸僅為32×32像素),這意味著幾乎不可能進行手動檢查,並且不能保證所有令人反感的圖像都將被刪除。

據報導,Gebru向Google Brain女人和盟友列表服務器發送了一封電子郵件,該郵件“與Google經理的期望不一致”。

在電子郵件中,Gebru對Google在招聘女性方面缺乏進展感到沮喪。Gebru聲稱還被告知不要發表研究報告,並建議員工不要填寫多樣性文書,因為這沒關係。

除了被解僱的可疑原因外,格布魯還說,她的前同事收到了電子郵件,說她提出了辭職-但她聲稱情況並非如此:

Platformer從Google Research負責人Jeff Dean獲得了一封電子郵件,該電子郵件已發送給員工,並提供他對Gebru主張的支持:

“我們已經批准了Timnit和/或其他Google員工撰寫並發表的數十篇論文,但是如您所知,這些論文在內部審核過程中經常需要更改(甚至被認為不適合提交)。不幸的是,只有在截止日期前一天的通知中共享此特定論文-我們需要兩週的時間來進行此類審閱-然後,它沒有等待審閱者的反饋,而是被批准提交並提交。

然後,跨職能團隊審查了該文件,將其作為我們常規流程的一部分,並告知作者該文件不符合我們的出版標準,並得到了有關其原因的反饋。它忽略了太多相關的研究-例如,它談到了大型模型對環境的影響,但無視隨後的研究顯示出更高的效率。同樣,它引起了對語言模型偏見的擔憂,但沒有考慮到最近為減輕這些問題所做的研究。”

Dean繼續聲稱Gebru提出了要求,其中包括透露他和Google工程副總裁Megan Kacholia所諮詢的個人的身份,作為本文審閱的一部分。據報導,如果不能滿足要求,Gebru說她將離開公司。

這是一個反一個詞的情況,但是-對於一家已經在公眾和監管機構中引起質疑的公司而言,因其提出問題而被解僱的道德研究人員將不會成為良好的公關。

※本文章屬於TNZE天擇集團所有嚴禁轉載※

Share on facebook
Share on twitter
Share on whatsapp
Share on weibo

相關內容

最新資訊