用AI監測員工大腦活動：一種未來形而上學
來 源：HR沙龍發表日期：2018-05-11
設想一個人的大腦出于善意的目的而被監控，這里邊其實隱藏著很大的倫理風險。人性是不可試探的，就如神圣是不可試探的一樣。
據報道，國內有工廠引進員工腦電波掃描系統，敷設在工人帽子上的傳感器追蹤腦電波。在工人整個值班期間，傳感器會持續收集腦活動數據，通過對這些數據的分析，能獲悉工人的煩躁、抑郁和消極心態。此時把工人送去休息，或許有利于生產效率和企業的人文建設。
據該報道，國內某電力公司從2014年起開始對員工使用情緒監控技術，此后盈利增長了約20億人民幣。
另外，據美國媒體報道，上海一家醫院采用了腦造影術，是很先進的前沿技術。該系統對病人的腦部活動進行掃描，借助智能監測攝像頭分析他的臉部，同時在病床下面安裝一種確定機體運動和姿勢的傳感器。
這可以說明，用人工智能監測大腦，在技術上已經成為可能。那么，我們是否可以依賴腦電波掃描系統？如果系統犯錯，或者數據解讀錯誤，責任將由誰承擔？
在我看來，這個技術是靠譜的，至少從原理上來講，有很強的可行性。至于這一系統的準確性具體能達到多少，還很難說。我只能說，這個系統從技術操作角度來說，是沒有多大障礙的。接下來就是要看更多的實踐結果。這就像一種新的藥物研發過程一樣，藥物研發出來之后，還需要幾年的臨床試驗。
這一人腦監控技術的研發已經基本完成了，但是，還需要通過“臨床”來收集更多的數據，因為人工智能是靠兩條腿驅動的——一條腿是算法，另一條腿是數據。再好的算法，如果沒有大量的數據作支撐和配合，這樣的算法都是瘸腿的。
此外，正如所有的規則都不可能百分之百平等。具體到這個系統上，系統的確會存在一定的失誤率，不可能百分之百準確，但是只要將失誤率控制在一個可控范圍之內，就是可以接受的。
在此之前，我就做過人工智能在未來生活中可能扮演什么角色的分析，明確提出了醫生極可能失業的預測——這主要是基于機器對人身體監測的作用而做出的結論。
與此不同的是，我今天所談的問題是對人腦的監控與診斷。當然不是判斷你是否腦血管有破損可能，大腦是否萎縮，而是實時監控你的大腦活動、情緒狀況以及所思所想。
也就是說人的頭腦，被機器所掌控，并據此調整你的現狀與行為模式。聽起來有些諷刺，但未必不是現實。
但是，設想一個人的大腦出于善意的目的而被監控，這里邊其實隱藏著很大的倫理風險。人性是不可試探的，就如神圣是不可試探的一樣。
如果一個人明確地知道自己的思想被他人掌控，勢必帶來一個硬幣的兩個面——他可能被迫變得更主動和積極于工作，提高效率；也可能伴隨著消極思想的狀態，以便自我隱匿和保護。至于下班后能不能切換回來是很成問題的，長此以往下去，人將變得拒絕思考、停止進步。
按照道德的要求成為一個“心中無不可與人言者”的楷模是人的極致追求，在現實中能夠做到哪一步，個體間差異極大。
當然，也有學者認為極難借助腦造影術解讀心理情緒狀況，并且就目前在工廠進行實驗所取得的成就，也可能具有相對性。對此，我們還是抱著審慎的樂觀態度拭目以待吧。
劉興亮（DCCI互聯網研究院院長）
本文關鍵字：AI 監測 大腦活動
- 相關文章
-
關注學院官方微信 
