39 views

人工智慧概念雖然已經流行了很多年,並且在一些產品上得到落地與應用。不過從使用效果來說,人工智慧偶爾還是會被調侃為「人工智障」,被人們「玩弄於鼓掌之間」。

很多人用過手機地圖,導航給生活帶來的極大的方便,但是最近,導航地圖遇到了點小麻煩——

外國一名網友,用99部手機放在小拉車裡,通過在馬路上緩慢行走。

有趣的事情發生了:

在他走過的大街上,谷歌地圖識別出了用戶高度集中的地段,還標註了「交通緩慢」。

如果此時有司機路過該路段,地圖會提示司機重新規劃路線,避開這條「擁堵」線路。

很神奇,通過簡單的方式就可以愚弄一下谷歌地圖。

一、愚弄人工智慧?

隨著人工智慧科技技術的飛速發展,人們生活中的智能化機器越來越多,從居家到出行與人們息息相關,為改善人們生活水平做出了巨大貢獻,比如說打車服務、地圖導航、人臉識別、無人駕駛和智能語音等等。

這裡頭也不乏有厲害的巨頭,比如開頭提到的谷歌地圖,還有現在的支付寶掃臉支付、特斯拉無人駕駛等等。

人工智慧讓我們驚艷科技改變生活,也讓我們思考:人工智慧真的比我們聰明嗎?

這個世界上,總有那麼一些人,不走尋常路,喜歡不按套路出牌,電腦誕生的時候,有些人不想好好使用它,而是搗鼓它,這群人後來有了一個名字——黑客,這群人有著高超的技術和超乎常人的耐力;人工智慧的技術產生,似乎讓黑客的門檻變低了,很多人都可以愚弄它一下。

愚弄人工智慧的方式大概分這幾種:模擬欺騙、邏輯欺騙和平台漏洞:

1. 模擬欺騙

就是在了解人工智慧的工作能力,通過物理相似的性能進行欺騙;這種攻擊因其不易察覺而引人注目。

2017年,一個計算機科學家在一個停車標誌上貼了一些貼紙,愚弄了一種常見的圖像識別人工智慧——自動駕駛人工智慧,使自動駕駛的汽車誤以為這是一個每小時45英里的限速標誌,這個結果肯定會讓自動駕駛汽車公司抓狂。

這種愚弄可能會造成車毀人亡,要是放在國內的話,小廣告到處貼,指不定這車會作出什麼樣不可思議的舉動。

另一種比較廣泛的就是大家常用的人臉識別,實名認證的時候掃掃臉,購物支付的時候掃掃臉。

如果你聽到這樣的消息:「某個人成功欺騙包括支付寶和微信在內的人臉識別支付系統,完成了購物支付程序,還用同樣的方式甚至進入了中國的火車站。」

很嚇人吧?確實,瞬間讓很多人擔心起「手機錢包」的安全。

這是美國一家名為Kneron的人工智慧公司號稱自己使用3D面具突破了支付寶、微信的人臉識別系統,還在火車站成功刷臉進站。

雖然火車站不允許你帶著一個面具或者一個假人頭去坐車,但是密碼就寫在臉上,以後出門是不是要帶口罩了,就像密碼保護遮住部分位數一樣。

2. 邏輯欺騙

在深度理解和學習人工智慧的實現原理和邏輯,圍繞產品邏輯做出來的干擾行為。

我對一件事情印象很深:

當時我剛註冊使用了某個購物APP后,正巧朋友家小孩子出生了,我就在上面看了一些小孩子的衣服和玩具,結果接下來的一段時間一發不可收拾,簡訊、app推送全是嬰兒產品,打開APP,首頁「猜你喜歡」都是母嬰類的產品。

這明顯是被電商平台的個性推薦打了奶爸的標籤,這也是大部分互聯網產品的邏輯。

如今,個性推介在各個地方應用廣泛,比如電商推薦、頭條推薦和短視頻推薦等等,個性推薦本來是更好的服務用戶體驗,結果有些人就鑽了漏洞,我見過淘寶刷單的物理外掛——貓池,

還有為了提升短視頻瀏覽量和知名度,幾百部手機24小時物理刷視頻的殭屍手機集群。

這些屬於鑽空子賺錢的黑客,還有一些閑來無事的搞怪,比如說你朋友圈的總有一個天天跑步第一名的人物,要麼他是快遞小哥,要麼他可能用了搖一搖物理外掛欺騙了手機。

3. 第三種就是平台漏洞

這一種就是傳統黑客比較喜歡的,深挖人工智慧平台的BUG,比較有名的時間就是「海豚音攻擊」。

如今,智能手機、可穿戴設備以及智能家居等都搭載著語音助手,Siri、小biu智能家居等語音控制系統變得越來越流行,但你覺得語音控制是安全的嗎?

如果將語音命令頻率轉換成為海豚音級別的超聲波,因為超出人耳接收頻率的範圍,無法被人聽見,卻可以被手機、智能家居以及智能手錶等智能設備的語音控制系統接收到。

再利用麥克風的硬體漏洞進行還原成原始的語音命令,就可以讓智能語音助手執行海豚音的控制命令,造成人工智慧識別和決策的失誤;

人工智慧是美好的,也是脆弱的,稍微愚弄一下就可能變成了人工智障;現有的「深度學習」機器的還是存在一定的局限性。

二、為什麼可以愚弄人工智慧?

我們來翻一翻人工智慧歷史——人工智慧是計算機的第三次發展浪潮,是對傳統計算機的延伸和擴展。

我們先來看看傳統的計算機,它的工作原理就是有一個確定的輸入,就有一個確定的輸出。

對於機器來講,原理也一樣。

機器通過感知到一種信號,然後作出相應的回應,人工智慧也是相仿;你給它一個感知的信號,通過機器學習后,它會有一個特定的輸出,

如果你干擾了他的輸入或者欺騙了他的輸入,他就是有錯誤的輸出的,也就是我們看到的「變成了人工智障」。

現在的人工智慧就像90年代的香港殭屍片里的殭屍,撒上一把糯米粉在臉上,殭屍就看不見你了!

不過,這也讓我想起來一件很好玩的事情:

作為女人,化妝是一件很正常的事情,無論是她化妝還是不化妝,身邊的朋友都能認出她來。

但是在一次車站坐火車,現在的火車站是人臉識別掃描進站,無人值守檢票。

我前面的一位美女拿著身份證刷了半天,就是沒刷進去——原來身份證與本人相差太大。

我瞄了一眼,前面的美女挺漂亮的,就是身份證沒化妝,人臉識別失效了,終於走了又長又慢的人工通道才進站的。

針對機器來講,她看不出來你有沒有化妝,他只知道化妝的你和身份證上的你不一樣,稍微的一個化妝就給人工智慧產品的應用帶來了抓狂的煩惱。

所以提個小建議,下次錄入智能手機面部識別密碼的時候,一定得化妝的漂漂亮亮,不然就識別不到美女了!

三、擁抱未來

因此,儘管人工智慧產品具有所有好處和技術帶來的便利,但是人工智慧產品的脆弱性也不能忽視——矛與盾天生就是一對冤家,人工智慧和愚弄人工智慧也是一對冤家,在「爾虞我詐」的較量中,相信人工智慧產品能夠逐漸強大起來。

雖然完全取代人類的工作的道路還很長,不過很快就會到來;我還是非常慶幸自己能生在這樣一個時代,有機會能經歷人工智慧快速發展、融入我們生活的時代。

最後,通過我最喜歡的周星馳的話做個結尾:

  • 周星馳:他好像一條狗哎!
  • 小朋友:他是孫悟空!
  • 人工智慧:猴子…猴子…猴子…

 

Go Top