在辨識簡單圖片時，神經網絡為何會出錯？

文/積木

最近的一項研究表明，神經網絡可以被一些簡單的、隨機生成的圖像欺騙。當它看到抽象的圖片時，會將其認為是一件特定的物品。這再次告訴我們，計 算機視覺和人類視覺是完全不同的東西，但是，隨著神經網絡變得越來越復雜，我們對這種差別也越來越難以把握。“我們獲得了一些結論，但卻不知道是如何獲得 這些結論的。” 研究員 Jeff Clune 在接受 Wired 網站采訪時說。

為了測試神經網絡是否真的聰明，Clune 和兩位博士生展開了一項研究。他們用算法生成隨機的圖像，將其變形。然后，他們讓神經網絡對兩幅圖進行辨識。如果神經網絡認為變形后的圖像更接近某個物 品，他們就保留下變形后的圖像，再次重復上述步驟；如果情況相反，他們就退回一步，再次進行辨識。通過這樣的方法，他們獲得了幾十張被計算機確認的圖片。 這些圖像在人類看來仍然是抽象的，但是，到了神經網絡那里，它們卻是可以辨認的物品。

從某種程度上，我們還可以理解計算機的失誤。因為這些抽象圖形存在一些可辨識的特征，但是，比較奇怪的情況是，一些毫無特征的像素圖同樣騙過了神經網絡。

Clune 認為，神經網絡在辨識物品的時候，使用了一系列的視覺線索。有時候，這些視覺線索是人類不熟悉的東西。比如，在接受訓練的時候，神經網絡注意到，在孔雀的 圖像中，通常包含有“綠色像素、綠色像素、紫色像素、綠色像素”的線條。當神經網絡在無特征的像素圖中發現同樣線條時，或許就將其確定為“孔雀”。

在 Clune 看來，這項研究展示了人工智能領域的一個事實：即使神經網絡起了作用，我們并不是完全了解它是如何工作的。“神經網絡正變得愈加龐大，極為復雜，而且它們 擁有自學能力，” Clune 說，“它們擁有數百萬的神經元，并且都在做著自己的事情。當它們完成一件讓人驚訝的事情，我們并不是很了解它們是如何做到的。”

隨著人工智能的進展，研究人員也在發生改變。在過去，研究人員參與著系統構建，而現在的研究人員則可以直接使用現有系統，不用深入了解其背后的 原理。同時，由于神經網絡擁有自學能力，它們或許會變得非常復雜，達到不可理解的地步。“它不再是以人類的方式編寫的計算機代碼，” Clune 說，“它更像是各種相互關聯的部分構成的一個體系，然后從中產生了智力。”

題圖來自 vsmagzine