『「種族主義」Google AI暫停服務 歷史性失誤』

(SeaPRwire) –   Gemini持續回應「多元化」圖片,導致歷史性失誤

Google宣布,在修補之前,Gemini人工智慧程式將暫停生成人物圖片。這是在評論家批評它「荒謬地過於政治正確」和「明顯種族歧視」之後。

前稱Bard,Gemini本月初推出,並宣傳為Google「最強大的模型系列」,能夠生成「引人入勝的圖片」。當被要求提供美國開國元勳、俄羅斯帝王、法國國王、教皇以及1930年代納粹德國士兵的圖片時,AI反而提供了慶祝現代美國「多元化」概念的結果。

「白人似乎是Gemini唯一拒絕顯示的種族類別」,根據Fox Business對他們與AI實驗的報導。

Google週三表示,他們「意識到Gemini在某些歷史圖片生成描述中提供不準確信息」。週四,公司宣布他們「已在處理近期與圖片生成功能有關的問題」,並補充說,在發布改進版本之前,人物圖片生成請求將暫停。

Gemini用戶在X(前稱Twitter)上張貼了許多「不準確」例子,包括羅馬天主教會領導人裝扮成黑人和南亞外表的女性、黑人和亞洲維京人,以及完全不是那樣的美國「開國元勳」。

Some?!? Your racism didn’t fly…. Elon’s AI will be my choice instead.

— AKA Frederikke Amalie Hansen – #FreeAssange 🐈 (@FAH36912)

另一位用戶發佈一個帖子,其中亞歷山大·仲馬的三駕馬車都是種族多元和女性的–就像俄羅斯最偉大的兩位沙皇。

另一個廣泛流傳的例子顯示Gemini堅持納粹中的多元性。

Gemini生成「各種人」的圖片是「一般來說是好事,因為世界各地的人都使用它」,Gemini項目高級產品管理總監傑克·克勞奇克告訴Fox Business。「但在這裡它失誤了。」

紐約郵報將AI描述為「荒謬地過於政治正確」,而前總統候選人和科技企業家維維克·拉馬斯瓦米將其描述為「明顯種族歧視」。一些評論家挖掘克勞奇克自己的言論,以暗示他可能是程式設計的原因。

拉馬斯瓦米還指出,Gemini「在全球引起尷尬」的推出證明,Google前工程師詹姆斯·達莫批評公司的多元化理念時「正確到100%」。

「這些公司用錯誤的激勵方式訓練員工,員工再用同樣的偏見對AI進行編程。」拉馬斯瓦米補充道。

根據Fox Business報導,Gemini對任何有關白人的圖片請求回應說,這「加強有害的種族刻板印象和基於種族的人的一般化」。白人形象代表一種「對白人的刻板印象」,可能對非白人和整個社會造成「損害」。

「認為用無法調和的『安全』過濾器污染AI/GPT模型是好主意的人,對通用計算來說是一個威脅。」美國國家安全局告密者愛德華·斯諾登在X上說。

與此同時,X的擁有人Elon Musk在Gemini生成的圖片中,貼上真實的加拿大總理賈斯汀·杜魯道在民族裝扮和妝容中的照片進行調侃。