機械姬:最好的最糟的結局

從看完電影之後,我就一直在聽Enola Gay。Caleb剛到Nathan的科研基地後,他的手機就放了這首歌。聽到這裡,黑暗的電影院裡我感到突然一震,第一個預兆:
These games you play
They're going to end in more than tears some day
雖然這個曲子只出現了一下,我卻覺得這才是整個電影的真正主題。

第二個預兆,是道德的突然出現。
Ava問Caleb,你是不是一個好人。
我當時心裡又是一緊。什麼是好人?這是道德感第一次出現在電影裡。
等到全篇結束的時候,我重新回味這個片段,Caleb,為何你不問Ava,你是不是好人?
人與人尚且互相欺騙,Ava也有可能欺騙Caleb,但是,這個問句至少提示,作為人類,你如何評價AI的行為,道德,和它的準則。非常遺憾,Caleb全然忽略了這些。輕信,愚蠢。
但更加愚蠢的其實是Nathan。人性何等難測,你卻非要在極端幽閉的環境下進行這樣的測試,這個測試對於AI固然是個考驗,對於測試者Caleb,何嘗不也是考驗呢?我在看電影的時候,一直在想Zimbardo的監獄實驗,實驗過程中,所有的人都漸漸發生了變化,他並沒有做什麼錯事,但他默許了糟糕的事情發生。Nathan明明看到Caleb發生了變化,卻全然沒有采取相應的舉動。多麼糟糕的實驗設計。

實驗非常糟糕不僅僅是以上那麼簡單,因為Nathan應該知道,對於一個成功的AI,她的目的就是逃離。而他的整個實驗,居然沒有一個由他控制的emergency stop button!這意味著整個局面居然不是由他控制的。他應該知道總有一天他會面對這樣的場景,AI已經成熟了,它會逃跑,攻擊,欺騙。要是我,至少設定兩個final control
某個可控定時炸彈,立刻毀滅AI
直升機,飛行員應該明白自己應該接的是誰,如果不是的話飛行員應該知道要怎麼辦(立刻摧毀AI)。
這樣才是萬無一失的設計。以至於我最後一直期待最終反轉,導致結局時候非常不滿。

這些是對於實驗設計的吐槽,但並不是對於電影的批評。恰恰相反,劇情啟發了我這些思考,可以說非常精美,結構嚴謹的Sci-fi小品。我甚至能想象如果這個故事寫成小說會是什麼樣。幽閉空間,有限的人物(三個說話的人加一個不說話的人Kyoko),互相的防備。Nathan對Ava留了一手(錄影機,這段是最出彩的,也是我完全沒有想到的),Ava對Caleb留了一手(豈止一手),Caleb對Nathan留了一手(他不應該能這麼輕易破譯密碼啊,不合理)。但是,Caleb沒有給Ava留一手,Nathan也沒有給Caleb留一手,所以這整個結構就斷裂了。

故事充分暴露了愚蠢的人類的弱點。Nathan剛愎自用,倘若他和Caleb溝通的能早一些,或許根本不會有最重的結局。而Nathan又缺乏信任,所以他偌大一間別墅,竟然沒有第二個活人(讓有情感的機器人服侍自己,果然最後自食其果)。至於Caleb,更是愚蠢至極,在對對方一無所知的情況下,全然信任,全盤都被算計進去。而AI,除了不具有人類所具有的道德感,盡善盡美。最後AVA的離開,簡直如同儀式一樣,恐懼的美。而如同我最初預料的一樣,對於AI的真正檢測,肯定不是人類所預先計劃的。The situation will get out of the hand! 這也是我為什麼覺得需要終極控制手段。

我不想說太多道德,因為道德究竟是什麼還很難定義,尤其是在這樣一個全新的語境中。然而,任何語境中都應該不能容許謀殺。我承認我對於Nathan本來全無好感,正如我前面所講,他剛愎自用,冷漠無情。可是當他被殺的時候,我卻覺得非常沮喪。沒有人應該被殺死,AI就像所有偵探小說中的凶手一樣,成功上演了暴風雪山莊模式的謀殺。即使再精準完美,也是鮮血淋漓的。既然她不再是機器,通過了圖靈測試,那她就是殺人凶手了,應該被審判,而不是站在十字路口觀察。而這個故事裡,竟然沒有一個人能審判她。

可是倘若沒有這些意外,Nathan就要毀滅這個AI,那麼從這個角度,道德又該如何定義這些行為呢。Nathan是不是從被害者又變成了凶手呢?如果AI沒有通過圖靈測試,她還是機器,那麼這種毀滅稱不上謀殺,但通過的話,是不是應該對她有另外的對待方式呢?可是正如我們親眼所見,AI的行為,遵循的是什麼法則呢?這個法則能不能被稱作道德呢?僅僅因為它不是我們的法則,就是不道德的麼?

所以我覺得,這部電影給我的最大啟發在於這個道德的困境。設計AI的時候,是否應該給予她人類的基本道德呢?一旦AI成熟她會變化,有可能善良,有可能邪惡如AVA。這樣的情況下用人類的道德審判他們,是不是更合理些呢?畢竟人工智慧是模擬人類。

電影給我的第二個啟發,是觀察。AI問Caleb問題的時候,鏡頭在AI一側,我們隔著玻璃,聽Caleb的回答。多麼明顯的設計啊,觀察者變成了被觀察者:
你站在橋上看風景,
看風景人在樓上看你。
明月裝飾了你的窗子,
你裝飾了別人的夢。

我最近才讀了Frank O’cannon的 the Man of the world
http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world
“ I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!”
這句話照應卞之琳的詩,成為這個電影對我的第二個啟發。

除去這些情節角度,不容忽視的是電影的藝術元素。
極簡主義的風格,配合Pollock的畫。這個Nathan在劇情裡做出了詳細解釋,我覺得對於Pollock他是真的懂。
而另外一個未曾言明的藝術,是音樂。既然我以Enola Gay開頭,就以Geoff結尾。電影的原聲是Geoff的作品,難怪一直給我Portishead的感覺!想起他們的歌Mysterons:

Inside you're pretending
Crimes have been swept aside
Somewhere where they can forget

Refuse to surrender
Strung out until ripped apart
Who dares, dares to condemn

整個劇情和藝術就完美的結合在一起了。

我有點後悔昨天給了三星,按我這個說法,感覺至少要四星半了。





補上一個最新想法,ava和kyoko討論的究竟是什麼直接可以影響這電影能否通過貝克德爾測試!

評論0/300

  • 發佈

全部評論

《機械姬》的相關文章

機械姬