TechRoomage

專訪梅琳達·蓋茨與李飛飛:沒有女性參與的AI研究終將走向偏見,男性不該成為技術象徵

0 1

人工智慧型存在一個多樣化問題。開發人工智慧型的人雖多但背景大多雷同。在知名研究人員李飛飛看來,這種觀點多樣性的缺乏隱藏著一個危機:「作為一名教育者,一名女性,一名亞裔女性以及一名母親,我對這個問題感到日益擔憂,」她說道。「AI將對人類社會做出巨大改變,但我們這一整代的技術人員和領導人的多樣性卻正在消失。」

坐在她邊上的梅琳達·蓋茨對此表示贊同,她補充說:「如果沒有女性和其他種族的人參與到AI研究中——即真正的技術人員做真正的研究——我們的系統將逐漸走向偏見。如果10年或20年後才想到要去改變這種狀況將會十分困難,幾乎不可能。」

在座的兩位女性都是極具影響力的科技人員。作為Google Cloud的人工智慧型和機器學習首席科學家,李飛飛還在斯坦福大學帶領其人工智慧型實驗室,目前正在享受斯坦福大學的假期。1980年代初,在杜克大學學習編程的時候,蓋茨曾了解過人工智慧型。離職前她曾在微軟工作近十年,後來投身於慈善事業。現在,蓋茨正把她的精力和資金投入到李飛飛協助成立的國家非盈利組織上:AI4All。

這個組織的名稱已說明一切。AI4All將幫助那些致力於讓代表不足群體的高中生了解人工智慧型的交與項目。上周,我與蓋茨和李飛飛面對面交流,討論了如何讓AI研究對女性更有吸引力,為何男性不應成為技術象徵,以及AI研究需要些什麼。

傑西·赫普:你們是如何認識的呢?

梅琳達·蓋茨:如果你對人工智慧型感興趣,你必定聽說過飛飛的研究。我想認識她然後了解她的工作,特別是她一些博士學生的工作,以及一群女性在AI領域做研究是怎樣的感覺。

李飛飛:梅琳達,當我聽說你對AI感興趣時,我當時就想,「終於!終於有一個擁有極大話語權的世界領導人是一名女性科技人員,而且她還對AI感興趣!」

我在這個領域已經很多年了,即是教育者又是技術研究院,但是近來我對AI領域的擔憂越來越甚。作為一名技術人員,我明白AI和第四次工業革命將影響人們生活的方方面面。如果你去看一下人工智慧型在微軟、Google還有其他了不起的技術公司里的發展程度,你會感到十分高興。

但與此同時,作為一名教育者,一名女性,一名亞裔女性以及一位母親,我對這個問題感到日益擔憂,AI將對人類社會做出巨大改變,但我們這一整代的技術人員和領導人的多樣性卻正在消失。所以,當我聽說梅琳達正在關注AI,並且你的手下聯繫到我時……你知道的,他們聯繫上我的時候,我女兒剛四個月大,我正在家休產假。

梅琳達·蓋茨:是這樣的。

李飛飛:那時我很高興。我們立即安排了你的拜訪,並希望進行一次開誠布公地談話。我跟我的學生說,「你們是非常優秀的技術人員,但你們仍處於探索的道路上。在跟梅琳達談話時,務必將你們的經歷坦誠相告。」

梅琳達·蓋茨:那次談話實在太棒了,飛飛說的一句話我不能再贊同,她說:如果沒有女性和其他種族的人參與到AI研究中——即真正的技術人員做真正的研究——我們的系統將逐漸走向偏見。如果10年或20年後才想到要去改變這種狀況將會十分困難,幾乎不可能。是時候應該讓女性和多樣化聲音加入到AI中,只有這樣我們才能開發出合理的AI系統。這將是一項壯舉,無處不在,將令人驚嘆。但是我們首先必須讓人們參與到其中。

李飛飛:沒錯,因為AI是一項關係到我們所有關心事物的技術。它所具有的價值觀對我們的生活至關重要。如果我們沒有代表各類人的技術人員參與到AI研究中,那麼這項技術終將不可避免地走向無法代表我們所有人的局面。

傑西·赫普:但是我們已經看到在技術發展早期看到缺乏多樣化聲音的結果。現在來談這些,會不會有點晚了?

梅琳達·蓋茨:說晚倒不至於,但是我認為我們前進的速度越來越快。因此,飛飛和我特別關注如何讓更多女性技術人員進入到這一領域。

傑西·赫普:你們的談話帶來了什麼?

李飛飛:當我結束產假的時候,我在深入思考自己能為這一代人真正做些什麼。我認為這是我能做出的最大貢獻。三年前,我和我的前博士學生Olga Russakovsky啟動了一個測試項目。這是一個名為SAILORS的試點項目,全稱為「斯坦福人工智慧型實驗室暑期推廣項目」。我們邀請了灣區的九年級高中生。這是一個側重年輕女性的走讀項目,我們邀請她們參與AI實驗室的兩周項目。

SAILORS分為兩部分,我們有一個強假設,即技術呈現於年輕學生面前的方式深刻地影響著管道問題。在我生活里近十年的矽谷,總有一個主導聲音在說:「技術很棒。技術是極客。技術是穿著休閑衫的年輕小伙。」

梅琳達·蓋茨:對的。

李飛飛:穿著休閑衫的年輕小伙們改變了我們的世界。但他們不是唯一的技術人員。這不是鼓勵人們的唯一方式,也別是還有很多年輕女性,她們也擁有很多選擇,他們會想:「我可以成為醫生,救死扶傷。我可以成為記者,向世界傳遞被掩蓋的呼求。為什麼我要選擇AI或電腦科學,如果大家都認為這是男人的領域?」

在這個年輕人都渴望的核心技術的教育中,我們賦予了人性化使命。比如,作為一個研究項目,我們在機器人團隊為SAILORS研究自動駕駛汽車。我們將其放在老齡化社會背景中。毫無疑問,自動駕駛汽車是一項非常前衛的技術,但是最需要這項技術幫助的人群之一是我們日益增長的老齡人口。

傑西·赫普:為這麼選擇九年級學生?

李飛飛:我們花了很長時間研究過去的數據。我們發現在剛上高中階段,是學生們開始思考大學專業的時候。他們會想——我是誰;我能為世界做什麼貢獻?

這個項目很受歡迎也很成功。我們有很多非常棒的女性。唯一的問題是,項目還不夠大。所以我在想,我們需要在中國範圍內推廣。這時候,我們開始和梅琳達合作。我們成立了AI4All組織。不過我得說明,項目還在隱秘結算。

NVIDIA創始人梅琳達和黃仁勛為我們提供了種子資金。Al4All旨在向不同校園和公司傳播SAILORS的模型——向不同人群的學生傳播帶有人性化使命的AI教育。

傑西·赫普:項目推出了?

李飛飛:項目在三月份正式成立。五所大學已經與我們建立合作關係:伯克利大學、卡耐基梅隴大學、普林斯頓大學、波士頓大學以及西門菲莎大學。他們打算成立自己的SAILORS項目。他們為根據不同當地社團定製項目。比如,伯克利會更加關注機器人和低收入學生。普林斯頓項目會更多關心種族多樣化,因為新澤西的非裔人口比較多。

傑西·赫普:啟動這類項目的主要障礙是什麼?

李飛飛:很少有AI技術領導者本身就屬於多樣化人群。而且,他們也忙於創業或發表論文這些事情無暇顧及此類項目。但是這種教育是一個長期項目。短時期內,很難看到教育的效果。

傑西·赫普:梅琳達,在你幫助其他組織的過程中,你覺得那些經驗可以幫助AI4All成功?

梅琳達·蓋茨:飛飛正在著手招聘一名高管,進展很順利。她有不少十分優秀的候選人。但是我們想說的是這樣一名高管應該具備的能力。因為有時候,比爾和我經常會犯這類錯誤,包括我們自己和其他租住。你覺得你知道自己需要什麼。你的候選人非常棒,他們擁有許多其他技能。但是如果他們不擅長招聘、留住人才或者打造一個組織,你依然很難成功。

傑西·赫普:梅琳達,當我們去年秋天交流時,你說想把你的資源集中在幫助女性在技術領域獲得成功。這是不是你的首個嘗試?你還會進行更多嘗試嗎?

梅琳達·蓋茨:是其中之一,而且還會有更多嘗試。自那次對話依賴,我們贊助了Girls Who Code等等,因為我覺得這是另一個模型可以填補這方面的空缺。

但是我還關注工作領域的多樣化。我也會在這方面進行投資。哈佛大學有位非常出色的經濟學家Iris Bohnet。她研究行為經濟學,她還在研究如何在系統中引入多樣性。她曾經討論過為什麼在交響樂團中女性不能獲得首席位置。最終,當試鏡人員用簾幕擋住候選演奏人時,首席女演奏家人數也逐漸變多。但是效果提高地並不明顯。之後,她意識到面試官可以聽到走上台的人的腳步聲。這個問題一併解決后,首席女演奏家人數顯著上升。

所以在編程上,當教授檢查男性和女性寫的代碼時,我們也看到這種偏見。一旦匿名后,結果如何呢?女性絲毫不比男性差。

最後我要說的是,我的另一個投資領域是NCWIT(國家女性與信息技術中心)。他們正致力於設計吸引女性的電腦科學課程。

傑西·赫普:在這個領域其實已經有很多女性和有色人種在做研究。我們怎樣才能關注到他們的工作呢?

李飛飛:我跟媒體說,請找來一張AI技術人員名單,然後讓他們發表意見,因為給他們打電話一點也不費力。你可以找到女性和其他種族的技術人員。如果你需要別人幫助來尋找他們,我很樂意,而且還有很多像我一樣的人樂於幫助。我很樂意為你提供一份具有多樣化背景的AI技術人員名單。我認為他們的聲音也需要被世界聽到。

梅琳達·蓋茨:我還能告訴讀者的是,這真的是一個非常令人興奮的領域。AI將改變很多東西。我們完全無需懼怕AI。但我們必須知道AI是怎麼工作的,你可以學習AI,學習如何成為該行業的一部分。如果你真的很感興趣,向有能力的人請教然後全力以赴。

傑西·赫普:很高興聽到你這麼說,因為我覺得有時候,我們會想,你們之所以選擇九年級學生是因為其他人都已經到了職業生涯中期。

梅琳達·蓋茨:還有,我覺得,有時候你聽到技術大咖討論AI時,你會想「只有他有能力做這些。」不是的,其實每個人都能參與到AI之中。

李飛飛:我們的文化總是趨向於將少數人稱為天才。然後普通人就會想,「我們不是天才。」並不這樣的。如果某人具有很棒的生物背景,他或者她依然可以為AI和醫療事業做貢獻。AI具有很多方面,AI關乎一切,AI不可怕,AI就在我們身邊。

本文來自獵,如若轉載,請註明出處:http://www.lieyunwang.com/archives/310390

轉載文章請附上來源:專訪梅琳達·蓋茨與李飛飛:沒有女性參與的AI研究終將走向偏見,男性不該成為技術象徵 – 科技空間 TechRoomage

Leave A Reply

Your email address will not be published.