http://www.olosho360.com

酒泉新媒體營銷看走眼人工智能圖像

網絡推廣
酒泉新媒體營銷威廉·吉布森(William Gibson)寫于 2010 年的小說《零歷史(Zero History)》中有這樣一個場景:一個角色穿著迄今為止「最漂亮的T-shirt」展開了風險的突襲,T-shirt 可使其對閉路電視(CCTV)隱身。在尼爾·斯蒂芬森(Neal Stephenson)的小說《雪崩(Snow Crash)》中,一個位圖圖像被用來傳遞可擾亂黑客大腦頻率的病毒,借助計算機加強的視覺神經以腐蝕目的者的心智。諸如此類的故事構成了一種循環往復的科幻比喻:一張普通的圖像具有摧毀計算機的才能。

威廉·吉布森(William Gibson)寫于 2010 年的小說《零歷史(Zero History)》中有這樣一個場景:一個角色穿著迄今為止「最漂亮的T-shirt」展開了風險的突襲,T-shirt 可使其對閉路電視(CCTV)隱身。在尼爾·斯蒂芬森(Neal Stephenson)的小說《雪崩(Snow Crash)》中,一個位圖圖像被用來傳遞可擾亂黑客大腦頻率的病毒,借助計算機加強的視覺神經以腐蝕目的者的心智。諸如此類的故事構成了一種循環往復的科幻比喻:一張普通的圖像具有摧毀計算機的才能。

不論怎樣,這個概念并非完全虛擬。去年,研討者僅僅帶上花式眼鏡(patterned glasses),一個商用面部辨認零碎就做出了錯誤辨認?;ㄊ窖坨R就是在鏡框上貼上迷幻顏色的貼紙,花式的歪曲和曲線在人看來是隨機的,但計算機卻要在帶有花式眼鏡的人臉上分辨出五官,而且這些人臉的輪廓很類似?;ㄊ窖坨R不會像吉布森「最漂亮的 T-shirt」那般將其從閉環電視中抹去,但是它可使人工智能錯以為你是教皇,或許其別人。

帶有花式眼鏡的研討者以及人臉辨認零碎的對應辨認后果。

這些類型的襲擊包括在被稱為「對立機器學習(adversarial machine learning)」(之所以如此稱謂是由于對手之類的存在,在該狀況中,對手是黑客)少量網絡平安類別中。在這一范疇,「最漂亮的 T-shirt」以及腐蝕大腦的位圖的科幻比喻表現為「對立性圖像」或許「捉弄式圖像」,但是對立性襲擊具無形式,如音頻甚至是文本。2010 年晚期,少量的團隊各自獨立發現了這一景象的存在,他們通常把可對數據停止分類的機器學習零碎「分類器」作為目的,比方谷歌圖片中的算法可為你的照片打上食物、假期和寵物等標簽。

關于人而言,捉弄式圖像就像是一個隨機的扎染圖案或許突發的電視噪點;但是對圖像分類器而言,它卻可以自信的說出:「看,那是一只長臂猿」或許「一個如此亮眼的白色摩托車」。就像花邊眼鏡使人臉辨認零碎發作了錯誤辨認,分類器處置了混亂到人類永遠無法辨認的圖像視覺特征。

這些圖案可以各種方式繞過人工智能零碎,并對將來的平安零碎、工業機器人和自動駕駛汽車等需求人工智能辨認物體的范疇有嚴重意義。2015 年有關捉弄式圖像論文的結合作者 Jeff Clune 通知 The Verge:「想象一下你身處軍隊,正在運用一個自動鎖定目的的武器零碎,你絕不希望朋友把一張對立性圖像放在了醫院的樓頂,零碎鎖定并攻擊了醫院;或許你正在運用同一個零碎追蹤朋友,你也絕不喜歡被捉弄式圖像騙了,[并] 開端用你的無人機緊盯著錯誤的目的車輛?!?/p>

捉弄式圖像以及人工智能辨認的對應后果。

這些情節是假定的,但卻十分具有可行性,假如持續沿著以后的人工智能途徑開展。Clune 說:「沒錯,這是一個研討社區需求共同面對的大成績?!惯M攻對立性攻擊的應戰有兩方面:我們不只不確定如何無效地還擊現有攻擊,而且更多高效的攻擊變體在繼續增長。Clune 及其結合作者 Jason Yosinski 和 Anh Nguyen 描繪的捉弄式圖像容易被人類發現,它們就像是視覺幻覺或許晚期的網絡藝術,滿是斑駁的顏色與圖案堆疊,但是有更為奇妙的辦法運用它們。

攝動可像 Instagram 濾鏡普通被用于圖像

有一類被研討者稱為「攝動(perturbation)」的對立性圖像簡直對人眼不可見,它作為照片外表上的像素漣漪(ripple of pixels)而存在,并可像 Instagram 濾鏡普通被用于圖像。這些攝動發現于 2013 年,在 2014 年一篇名為「解釋和應用對立性實例(Explaining and Harnessing Adversarial Examples)(鏈接:https://arxiv.org/abs/1412.6572)」的論文中,研討者演示了攝動的靈敏性。攝動有才能捉弄一整套不同的分類器,即便沒有被訓練來攻擊的分類器。一項名為「通用對立性攝動(Universal Adversarial Perturbations)(鏈接:https://arxiv.org/pdf/1610.08401v1.pdf)」改良研討經過成功地在少量不同的神經網絡上測試攝動,使得這一特征明白起來,上個月惹起了眾多研討者們的關注。

右邊是原始圖像,兩頭是攝動,左邊被攝動的圖像。

運用捉弄式圖像黑進人工智能零碎有其局限性:第一,需求破費更多工夫制造加擾的圖像,使得人工智能零碎以為其看到的是一張特殊的圖像而不是發生了隨機錯誤。第二,為了在后來生成攝動,你常?!豢偸恰枨螳@取你要操控的零碎的外部代碼。第三,攻擊并不是一向高效。就像論文「通用對立性攝動」所述,在一個網絡中成功率為 90% 的攝動也許在另外一個網絡之中只要 50-60% 的成功率。(也就是說,假如一個存在成績的分類器正在指引一輛自動駕駛半式卡車,甚至 50%的錯誤率都是災難性的。)

為了更好地進攻捉弄式圖像,工程師開端了「對立性訓練」。這需求為分類器輸出對立性圖像,從而讓分類器可以學習辨認并疏忽它們,就像保鏢經過臉面照片辨認酒吧制止入內之人。不幸的是,正如賓夕法尼亞州立大學畢業生 Nicolas Papernot(關于對立性攻擊他寫了少量論文)所解釋的,在「計算密集型戰略」面前,即便這種訓練也很軟弱(即,向零碎輸出足夠的圖像,它最終仍會出錯)。

被攝動的圖像,以及對應的人工智能辨認的后果。

更困難的是,這類攻擊見效或失敗的緣由并不明晰。一種解釋是對立性圖像應用一種被稱為「決策邊界」的特征,其在很多人工智能零碎中都存在。這些邊界是不可見的規則,它們調控了零碎如何判別,如,獅子和豹子之間的不同。一個很復雜的只區分這兩類植物的人工智能項目將最終發明出一個意地步圖。想像在一個 X-Y 立體內:右上角散布著一切該人工智能零碎見過的豹子,而左下角散布著獅子。將這兩個局部分開的直線——獅子變成豹子,豹子變成獅子的邊界——稱作決策邊界。

Clune 說道,關于分類來說,決策邊界辦法的難題是它太相對,太武斷?!改銓ι窠浘W絡所做的一切事情僅僅是訓練它們在各類數據間畫線,而不是對它們建模以辨認出它們代表了豹子還是獅子?!瓜襁@樣的零碎可以經過一個確定的、用各種方式操作。為了捉弄獅子-豹子剖析器,你可以拍一張獅子的照片并把它的特征推到奇特的極端,但依然讓它變現為正常的獅子:給它好像發掘配備的,和校車普通大小的爪子,以及好像熄滅的太陽普通的長鬃毛。對人類來說,這是無法辨認的,但對一個反省決策邊界的人工智能零碎來說,這只是一只極端的獅子罷了。

據我們所知,對立性圖像從未在真實世界構成過危害。但谷歌大腦的研討迷信家,結合著作了《解釋和應用對立性實例》的 Ian Goodfellow 以為這種潛在的要挾從未被無視?!秆杏懮鐓^,尤其是谷歌,正在嚴肅地看待這個成績,」Goodfellow 說道?!覆⑶椅覀冋ετ陂_展更好的進攻措施?!股倭拷M織,如伊隆·馬斯克創建的 OpenAI,目前正在停止或發起關于對立性攻擊的研討。目前的結論是暫時沒有新技術,但關于這些攻擊在真實世界中能形成多大要挾,研討者們并未達成共識。例如,已存在少量攻擊自動駕駛汽車的辦法,它們并不依賴于計算復雜的攝動。

Papernot 以為,普遍存在于人工智能零碎中的缺乏并不令人詫異——分類器被訓練成「擁有好的均勻表現,而并不總是針對最壞狀況的表現——這是典型的從平安角度動身的觀念?!挂簿褪钦f,比起它的均勻表現,研討者較少擔憂零碎發作災難性的錯誤?!敢环N處置順手的決策邊界的辦法,」Clune 說道,「是使得影像分類器知曉它們無法分類什么目的,而不是試圖將數據擬合進某一類?!?/p>

與此同時,對立性攻擊也激起了更深層與概念化的考慮。相反的捉弄式圖像可以擾亂谷歌、Mobileye 或 Facebook獨立開發的人工智能零碎的「心智」,全體上提醒了當代人工智能特有的缺乏。

「似乎一切這些不同的網絡圍坐一同,相互訴說為什么這些愚笨的人類看法不到這個噪點圖里實踐上是一個海星,」Clune說道?!改窍喈旓L趣且奧秘;一切這些網絡都贊同這些瘋狂和非自然的影像實踐上屬于同類。那種水平的收斂真讓人詫異?!?/p>

對 Clune 的同事 Jason Yosinski來說,在捉弄式圖像上的研討標明人工智能和自然界發明的智能之間存在令人詫異的共同點。他留意到人工智能及它們的決策邊界所犯的同類錯誤也存在于植物世界中,在這里植物們被「超凡安慰」所捉弄。

這些安慰是自然界景象的人工版,鼓動植物違犯它們的天分。這一行為首先于二十世紀五十年代被發現,事先研討者們用它使得鳥類無視它們本人的蛋而更偏愛顏色更艷麗的贗品,或許使得紅肚棘魚將渣滓當作競爭對手而停止爭斗。只需有大的紅肚繪在渣滓下面,魚就將與其爭斗。一些人曾以為人類成癮行為,如快餐和色情文學,也是超凡安慰的例子。鑒于此,人們可以以為人工智能犯的錯誤是自但是然的。但遺憾的是,我們需求人工智能有才能防止這些錯誤,表現得更好。


5544444
酒泉新媒體營銷看走眼人工智能圖像

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播更多信息之目的,如作者信息標記有誤,請第一時間聯系我們修改或刪除,多謝。

標簽:

相關文章閱讀

蚌埠網絡推廣嚴肅思考編輯媒體于新蚌埠網絡推廣嚴肅思考編輯媒體于新
酒泉整合營銷基本功這么做過億活動酒泉整合營銷基本功這么做過億活動
常州線上推廣深度解讀取消公告新聞常州線上推廣深度解讀取消公告新聞
凱里新媒體營銷公司如何實現運營用凱里新媒體營銷公司如何實現運營用