AI雖然現在還在萌芽期,不時有一些新鮮的技術出來,但多半面臨真實世界的考驗時,不是實用程度不夠,就是有道德問題。Andrew這次提到的跟前陣子的「
明星換臉」就是類似的問題。不過從以前的工業革命,網路革命到現在的AI革命,哪一次沒有伴隨道德問題出來呢?這也是科技最有趣的地方,因為「科技始終來自於人性」,所以科技不會因為道德問題就停止前進,而道德的判斷問題也不會因為技術成熟了就不會再有新問題。
AI新創公司如雨後春筍般成長,特斯拉更往全自動駕駛前進一步,家居機器人越來越有機會到我們家中來服務。機器學習的進步速度,我們非但不能還當離我們很遠,更要緊盯著目前的應用,看有什麼我們可以插入的點,跟上這波浪潮。AI已經不是要不要做的問題,而是能做得多快多好的問題了。
Andrew Says
上週,我看到許多社群媒體在討論一篇能用深度學習的技術,產出新文章評論的
論文。我不曉得為什麼有人會覺得這是個好主意。往好的方向發展,這只是增加媒體大環境的噪音困擾而已;但若是往壞的方面去,這將會成為佈道者及騙子的好工具。
幾年前,在研討會上一個熟人把我拉到場外,向我介紹他正在建立的一個能產生假評論的產生器。這個專案讓我感到擔憂,我私下和我的幾個AI的同儕討論了這個問題,但我們都不知道能做些什麼。直到今年,隨著
OpenAI的GPT-2語言模型正式發布,這個問題才成為主流。
當時,當我聽到那個熟人的計畫時,我們應該避免公布這樣的AI威脅,以減緩這個技術的散布嗎?我們對生化武器或核能武器的設計細節保密,通常就是減緩這些技術散布的主要方式。或者,我們是否應積極的將其公開,讓大家瞭解,進而鼓勵進行防制的措施,就像我現在這封信做的這樣呢?
OECD的「
AI發展原則」為「AI應為人類和地球謀福利」這個方向盡了許多努力,提供了許多有用的,高階的發展指導。但面對這樣的實際應用,我們還需製定更具體的道德規範,而這樣的規範是需要被鼓勵及授權的。
我們應該尋求其他領域經驗的啟發,雖然不一定能馬上適用在AI上。例如,在資訊安全上,研究員在發現軟體安全性漏洞時,應以保密的方式通告供應商,並給它們時間去修正或發布修補程式。但AI的研究員及用戶遍布全球,所以對於如何回報AI的威脅,我們還不是那麼清楚該怎麼做。
在醫療保險這一塊,由於醫生有責任照顧病患,因此在他們執行職務時也享有基本的法律保護。 在AI這一塊,工程師的職責又是如何?我們要如何保證工程師有被適當的授權,去開發真正對這個社會有益的技術呢?在AI這一塊,工程師的職責又是如何?我們要如何保證工程師有被適當的授權,去開發真正對這個社會有益的技術呢?
直到今天,我依然不知道幾年前我的決定是否正確,因為當時我就沒有公開AI能製作假評論的技術所帶來的威脅。如果AI使用的道德規範對你而言是重要的,我希望你也會跟你信得過的同儕討論一下你們的擔憂。如此我們就可以彼此互助,並找出最好的進步方向。同時我們也能多思考一些具體的機制,能儘量發揮AI這種強大的技術背後的潛能。
News
Tesla Bets on Slim Neural Nets Elon Musk之前
承諾,在2020年前會組織出自動Tesla車隊。而Tesla公司已經收購了一家電腦視覺新創公司,來幫助它們達到這個目標。
What’s new
Tesla收購的是「
DeepScale」,根據
CNBC的報導,這是一家來自矽谷的新創公司,主力正是在低功耗裝置上進行電腦視覺處理。但收購價錢並未報導出來。
- DeepScale是在2015年由2名柏克來加州分校的電腦科學家創立的,在被Tesla收購前,它已經募資了1900萬美元。
- 該公司使用的平台叫做「Carver21」,是使用「SqueezeNet」這種高效率的神經網路架構實作的。
- 這個系統使用了3個同步運行的神經網路,分別來做物件偵測,車道辨識及可行駛區域的辨識。
- Carver21每秒僅需要0.6億萬次的計算,和Tesla自己客製的晶片需要每秒36億萬次的計算相比少了許多。
Behind the news
因為
製造問題及電動車需求的降低,Tesla的今年的股價下降了25%。今年七月根據The Information的報導,在Musk抱怨研發團隊無法讓適用於高速道路的自動駕駛軟體,轉到都會區去使用後,Tesla又失去了10%的研發團隊。這報導也連帶影響近期發布的「Smart Summon」這個新功能,這是個能讓自動車從停車場自動開到駕駛身邊的方便功能。
Why it matters
以電力為主要能源的車,會有許多嚴謹的限制,而自駕車就是那種會消耗大量電力能源的車。Tesla的賭法,就是押寶更輕量的辨識處理方式,能在有限的電力能源預算下,一樣能完成全自動駕駛。全自駕的計程車隊,肯定能大力支援公司的營收。
We’re thinking
大家對Tesla是否能準時兌現其承諾,都抱持懷疑的態度。雖然低功耗的處理只是真正的全自動駕駛的其中一環,但這還是很重要,很有幫助的。
A Robot in Every Kitchen
每個人的家都是不同的,這就讓家居機器人的訓練變得異常困難,因為它們無法將在原家庭環境習得的技巧,馬上套用到下一個新家庭。比如說:即使是從冰箱拿一瓶蘇打水。因此,在VR環境中來訓練機器人,讓它們可以取得豐富的3D空間或物件資訊,將有助於能讓機器人更快的對真實的環境,產生一樣的技能。
What’s new
豐田研究所開發了一個讓用戶可
利用VR介面訓練家居機器人。機器人可在VR環境的實例教程中,學會新技能。然後用戶可在真實環境中,用語音的方式來執行新學會的技能。
How it works
豐田的機器人,都是由現成的零件及技術拼湊而成的,像是雙鏡頭來提供立體視覺,用現有的機器人軟體來控制行為,而最終是使用了卷積神經網路(CNN)來做到環境嵌合,大致上的步驟是這樣的:
- 要教導機器人新技術,用戶需穿載VR裝置,包括頭戴式顯示器及手持式控制器,從機器人的眼去看世界,用控制器去驅動它。
- 在訓練期,系統的持續映射每個像素到豐富的資訊庫,包括物件的類別,指向物件中心的向量,或是其他和視角及光照無關的環境資訊。
- 當機器人要開始在真實世界執行新技能時,它會建立真實及訓練場景的像素對應關係,並適當的調整其行為。
Results
豐田的研究員們在虛擬世界中,教機器人完成3個任務:從冰箱裡拿一瓶飲料,把洗碗機的杯子拿出來,以及把許物體搬到不同的位置去。然後他們就讓機器人在兩個不同的真實環境下,每個任務執行10次。在跑這個測試的過程,研究員還刻意做了一些和訓練環境不同的變化,像是把冰箱換成更高的架子,或是把燈關掉。機器人仍有85%的任務成功率,雖然它們比人類多花了20倍的時間去完成。
Why it matters
研究人員近期對於在虛擬環境中,使用強化學習的方式來訓練或測試機器人,有很大的興趣。因為這樣的系統可讓機器人在虛擬環境中習得的技能,將其套用在真實世界中,而這是讓機器人真正變得有用的重要一步。
We’re thinking
近幾十年來,日本,美國,中國以及歐洲大部分的地區,出生率都持續在放緩。世界衛生組織預估在2050年時,全世界會有22%超過60歲的人口。可是誰又能來照顧這些長者?機器人可能是答案的一部分。
AI Startups in Demand
許多AI新創公司正以越來越快的速度被挖出來,而且許多還不是科技圈的。
What’s new
一份來自於CB Insights的
研究報告顯示,直至2019年8月AI新創公司被收購的記錄,有機會超過去年的記錄。自2010年來,每年的統計數字都會增長38%左右。
Who’s buying
雖然科技巨頭買下的AI公司在平均數之上,但大部分的購買其實是來自於非科技公司。
- Apple的買下的組合最多種,從2010年來就買下了20家,包括知名的Siri及FaceID技術背後的AI新創公司。
- Amazon,Facebook,Google,Microsoft及Intel,則是其他較具規模的買家,它們都至少買下了7家公司,而這些公司都是在處理電腦視覺,自然語言處理,語音辨識等這些方向。
- 其他非科技公司的一次性收購,像是John Deere,McDonalds及Nike搶購了一些公司,來幫助它們完成一些事務,像是收割玉米,開發客戶關係系統,或是管理存貨等。
What they’re paying
製藥巨頭Roche Holdings收購了7家AI公司,總金額已累積到10億美元。最近的一次收購是在4月,以19億美元買下了癌症分析提供商Flatiron Health,而這家公司尚未提供年度的支出報表。
Why it matters
這份報告強力地顯示了AI的戰略價值正穩定的提升。AI技術雖然仍是科技巨頭的專長,但它也在網路及軟體公司以外的領域變得越來越重要。
We’re thinking
令人興奮的新創公司會吸引人才進來,而這些人才的開發成果讓他們的公司能被收購。更大投資預算及更廣泛的投資範圍更促進了創新的力道,從而吸引更多的人才進入這些領域。最新的數據顯示,這樣的良性循環有足夠的持久力。也許這可以解決短期在機器學習的工程師一直都很短缺的問題。