劍橋,質(zhì)量。（美聯(lián)社）——在放棄了工作場(chǎng)所的多樣性、公平和包容性項(xiàng)目后，科技公司現(xiàn)在可能面臨第二次清算，即他們?cè)谌斯ぶ悄墚a(chǎn)品中的DEI工作。

在白宮和共和黨領(lǐng)導(dǎo)的國(guó)會(huì)，“蘇醒的人工智能”已被取代，成為一個(gè)需要解決的問題。根據(jù)眾議院司法委員會(huì)（House Judiciary Committee）上月向亞馬遜（Amazon）、b谷歌、Meta、微軟（Microsoft）、OpenAI和其他10家科技公司發(fā)出的傳票，過去在人工智能開發(fā)中“促進(jìn)公平”和遏制“有害和有偏見的產(chǎn)出”的努力是調(diào)查的目標(biāo)。

美國(guó)商務(wù)部的標(biāo)準(zhǔn)制定部門在呼吁與外部研究人員合作時(shí)，刪除了人工智能公平、安全和“負(fù)責(zé)任的人工智能”等字眼。相反，根據(jù)美聯(lián)社獲得的一份文件副本，它指示科學(xué)家專注于“減少意識(shí)形態(tài)偏見”，以一種“使人類繁榮和經(jīng)濟(jì)競(jìng)爭(zhēng)力”的方式。

在某種程度上，科技工作者已經(jīng)習(xí)慣了華盛頓主導(dǎo)的優(yōu)先事項(xiàng)對(duì)他們工作的影響。

但這一最新轉(zhuǎn)變引起了該領(lǐng)域?qū)＜业膿?dān)憂，其中包括哈佛大學(xué)社會(huì)學(xué)家埃利斯·蒙克（Ellis Monk）。幾年前，b谷歌與他接洽，希望他能幫助b谷歌提高人工智能產(chǎn)品的包容性。

當(dāng)時(shí)，科技行業(yè)已經(jīng)有了人工智能的一個(gè)分支，可以訓(xùn)練機(jī)器“看到”和理解圖像。計(jì)算機(jī)視覺具有巨大的商業(yè)前景，但也呼應(yīng)了早期相機(jī)技術(shù)中發(fā)現(xiàn)的歷史偏見，即以不討人喜歡的方式描繪黑人和棕色人種。

“黑人或深膚色的人會(huì)出現(xiàn)在照片中，我們有時(shí)看起來很可笑，”膚色歧視（一種基于人們膚色和其他特征的歧視）學(xué)者蒙克說。

谷歌采用了Monk發(fā)明的色階，改進(jìn)了其人工智能圖像工具描繪人類膚色多樣性的方式，取代了幾十年前最初為醫(yī)生治療白人皮膚病患者設(shè)計(jì)的標(biāo)準(zhǔn)。

“消費(fèi)者對(duì)這些變化肯定有非常積極的反應(yīng)，”他說。

現(xiàn)在，蒙克想知道這樣的努力將來是否會(huì)繼續(xù)下去。雖然他不認(rèn)為他的僧侶膚色量表受到了威脅，因?yàn)樗呀?jīng)被應(yīng)用到b谷歌和其他地方的幾十種產(chǎn)品中——包括照相手機(jī)、視頻游戲、人工智能圖像生成器——但他和其他研究人員擔(dān)心，這種新的情緒正在冷卻未來的倡議和資金，讓技術(shù)更好地為每個(gè)人服務(wù)。

“b谷歌希望他們的產(chǎn)品適用于印度、中國(guó)、非洲等地的所有人。這部分是神免疫的，”蒙克說?！暗磥韺?duì)這類項(xiàng)目的資助會(huì)減少嗎？”當(dāng)然，當(dāng)政治情緒發(fā)生變化時(shí)，當(dāng)有很大的壓力要迅速進(jìn)入市場(chǎng)時(shí)?！?/p>

特朗普對(duì)人工智能的主題進(jìn)行了刪減和觸及，但它對(duì)聊天機(jī)器人和其他人工智能產(chǎn)品的商業(yè)發(fā)展的影響更為間接。在調(diào)查人工智能公司時(shí)，司法委員會(huì)主席、共和黨眾議員吉姆·喬丹（Jim Jordan）表示，他想弄清楚前總統(tǒng)喬·拜登（Joe Biden）的政府是否“強(qiáng)迫或勾結(jié)”他們審查合法言論。

白宮科技政策辦公室（Office of Science and Technology Policy）主任邁克爾·克拉西奧斯（Michael Kratsios）本月在德克薩斯州的一次活動(dòng)上表示，拜登的人工智能政策“以公平的名義促進(jìn)社會(huì)分裂和再分配”。

特朗普政府拒絕讓克拉西奧斯接受采訪，但引用了幾個(gè)例子來說明他的意思。其中一條來自拜登時(shí)代的人工智能研究戰(zhàn)略：“如果沒有適當(dāng)?shù)目刂?，人工智能系統(tǒng)可能會(huì)放大、延續(xù)或加劇個(gè)人和社區(qū)的不公平或不受歡迎的結(jié)果?！?/p>

甚至在拜登上任之前，就有越來越多的研究和個(gè)人軼事引起了人們對(duì)人工智能偏見危害的關(guān)注。

自動(dòng)駕駛汽車技術(shù)很難檢測(cè)到膚色較深的行人，這使他們面臨更大的被碾過的危險(xiǎn)。流行的人工智能文本到圖像生成器生成外科醫(yī)生的照片時(shí)發(fā)現(xiàn)，98%的情況下，它們生成的是白人男性，即使在一個(gè)男性占主導(dǎo)地位的領(lǐng)域，這一比例也遠(yuǎn)遠(yuǎn)高于實(shí)際比例。

用于解鎖手機(jī)的人臉匹配軟件錯(cuò)誤地識(shí)別了亞洲人的面孔?；谔摷偃四樧R(shí)別匹配的美國(guó)城市警察。十年前，谷歌自己的照片應(yīng)用程序?qū)蓚€(gè)黑人的照片歸類為“大猩猩”。

就連特朗普第一屆政府的政府科學(xué)家也認(rèn)為，面部識(shí)別技術(shù)在種族、性別或年齡方面表現(xiàn)不均衡。

拜登的當(dāng)選促使一些科技公司加速關(guān)注人工智能的公平性。2022年OpenAI的ChatGPT的到來增加了新的優(yōu)先事項(xiàng)，引發(fā)了新的人工智能應(yīng)用程序的商業(yè)繁榮，用于編寫文檔和生成圖像，迫使谷歌等公司放松警惕，迎頭趕上。

然后是b谷歌的雙子座人工智能聊天機(jī)器人——去年推出的一款有缺陷的產(chǎn)品，將使它成為保守派希望打破的“覺醒人工智能”的象征。如果任由人工智能工具按照書面提示生成圖像，它們很容易延續(xù)從它們所接受的所有視覺數(shù)據(jù)中積累的刻板印象。

b谷歌也不例外，根據(jù)該公司自己的公開研究，當(dāng)被要求描繪不同職業(yè)的人時(shí)，它更傾向于選擇膚色較淺的面孔和男性，而當(dāng)被選擇女性時(shí)，更傾向于選擇年輕女性。

b谷歌在一年前推出Gemini的人工智能圖像生成器之前，曾試圖設(shè)置技術(shù)護(hù)欄來減少這些差異。最終，它將有色人種和女性置于不準(zhǔn)確的歷史背景中，比如，為了回應(yīng)美國(guó)開國(guó)元?jiǎng)椎囊螅褂昧舜┲?8世紀(jì)服裝的男性形象，這些男性似乎是黑人、亞洲人和印第安人。谷歌迅速道歉，并暫時(shí)關(guān)閉了這一功能，但這種憤怒變成了政治右翼的戰(zhàn)斗口號(hào)。

今年2月，b谷歌副總裁JD萬斯在巴黎譴責(zé)“通過人工智能推進(jìn)完全非歷史的社會(huì)議程”，b谷歌的人工智能圖像生成器“試圖告訴我們喬治·華盛頓是黑人，或者第一次世界大戰(zhàn)中美國(guó)的面團(tuán)實(shí)際上是女性”。b谷歌首席執(zhí)行官桑達(dá)爾·皮查伊坐在旁邊。

“我們必須記住那個(gè)荒謬時(shí)刻的教訓(xùn)，”萬斯在會(huì)上宣稱。“我們從中得到的是，特朗普政府將確保在美國(guó)開發(fā)的人工智能系統(tǒng)不受意識(shí)形態(tài)偏見的影響，永遠(yuǎn)不會(huì)限制我們公民的言論自由權(quán)?！?/p>

出席演講的前拜登科學(xué)顧問阿隆德拉·納爾遜（Alondra Nelson）表示，特朗普政府對(duì)人工智能“意識(shí)形態(tài)偏見”的新關(guān)注，在某種程度上是對(duì)多年來解決算法偏見的工作的認(rèn)可，這種偏見可能影響住房、抵押貸款、醫(yī)療保健和人們生活的其他方面。

“從根本上說，說人工智能系統(tǒng)在意識(shí)形態(tài)上有偏見，就是說你發(fā)現(xiàn)、認(rèn)識(shí)到并擔(dān)心算法偏見的問題，這是我們?cè)S多人長(zhǎng)期以來一直擔(dān)心的問題，”納爾遜說，他是白宮科技政策辦公室（Office of Science and Technology Policy）的前代理主任，負(fù)責(zé)保護(hù)人工智能應(yīng)用中的民權(quán)和公民自由。

但在對(duì)公平的人工智能計(jì)劃的詆毀中，尼爾森認(rèn)為合作的空間并不大。

她說：“我認(rèn)為，不幸的是，在這個(gè)政治領(lǐng)域，這是不太可能的?！薄傲钊诉z憾的是，已經(jīng)被不同命名的問題——一方面是算法歧視或算法偏見，另一方面是意識(shí)形態(tài)偏見——將被視為兩個(gè)不同的問題?！?/p>