（原標(biāo)題：用AI監(jiān)測員工大腦活動(dòng)：一種未來形而上學(xué)）
漫畫/劉俊
科技觀察
設(shè)想一個(gè)人的大腦出于善意的目的而被監(jiān)控，這里邊其實(shí)隱藏著很大的倫理風(fēng)險(xiǎn)。人性是不可試探的，就如神圣是不可試探的一樣。
據(jù)報(bào)道，國內(nèi)有工廠引進(jìn)員工腦電波掃描系統(tǒng)，敷設(shè)在工人帽子上的傳感器追蹤腦電波。在工人整個(gè)值班期間，傳感器會(huì)持續(xù)收集腦活動(dòng)數(shù)據(jù)，通過對這些數(shù)據(jù)的分析，能獲悉工人的煩躁、抑郁和消極心態(tài)。此時(shí)把工人送去休息，或許有利于生產(chǎn)效率和企業(yè)的人文建設(shè)。
據(jù)該報(bào)道，國內(nèi)某電力公司從2014年起開始對員工使用情緒監(jiān)控技術(shù)，此后盈利增長了約20億人民幣。
另外，據(jù)美國媒體報(bào)道，上海一家醫(yī)院采用了腦造影術(shù)，是很先進(jìn)的前沿技術(shù)。該系統(tǒng)對病人的腦部活動(dòng)進(jìn)行掃描，借助智能監(jiān)測攝像頭分析他的臉部，同時(shí)在病床下面安裝一種確定機(jī)體運(yùn)動(dòng)和姿勢的傳感器。
這可以說明，用人工智能監(jiān)測大腦，在技術(shù)上已經(jīng)成為可能。那么，我們是否可以依賴腦電波掃描系統(tǒng)？如果系統(tǒng)犯錯(cuò)，或者數(shù)據(jù)解讀錯(cuò)誤，責(zé)任將由誰承擔(dān)？
在我看來，這個(gè)技術(shù)是靠譜的，至少從原理上來講，有很強(qiáng)的可行性。至于這一系統(tǒng)的準(zhǔn)確性具體能達(dá)到多少，還很難說。我只能說，這個(gè)系統(tǒng)從技術(shù)操作角度來說，是沒有多大障礙的。接下來就是要看更多的實(shí)踐結(jié)果。這就像一種新的藥物研發(fā)過程一樣，藥物研發(fā)出來之后，還需要幾年的臨床試驗(yàn)。
這一人腦監(jiān)控技術(shù)的研發(fā)已經(jīng)基本完成了，但是，還需要通過“臨床”來收集更多的數(shù)據(jù)，因?yàn)槿斯ぶ悄苁强績蓷l腿驅(qū)動(dòng)的——一條腿是算法，另一條腿是數(shù)據(jù)。再好的算法，如果沒有大量的數(shù)據(jù)作支撐和配合，這樣的算法都是瘸腿的。
此外，正如所有的規(guī)則都不可能百分之百平等。具體到這個(gè)系統(tǒng)上，系統(tǒng)的確會(huì)存在一定的失誤率，不可能百分之百準(zhǔn)確，但是只要將失誤率控制在一個(gè)可控范圍之內(nèi)，就是可以接受的。
在此之前，我就做過人工智能在未來生活中可能扮演什么角色的分析，明確提出了醫(yī)生極可能失業(yè)的預(yù)測——這主要是基于機(jī)器對人身體監(jiān)測的作用而做出的結(jié)論。
與此不同的是，我今天所談的問題是對人腦的監(jiān)控與診斷。當(dāng)然不是判斷你是否腦血管有破損可能，大腦是否萎縮，而是實(shí)時(shí)監(jiān)控你的大腦活動(dòng)、情緒狀況以及所思所想。
也就是說人的頭腦，被機(jī)器所掌控，并據(jù)此調(diào)整你的現(xiàn)狀與行為模式。聽起來有些諷刺，但未必不是現(xiàn)實(shí)。
但是，設(shè)想一個(gè)人的大腦出于善意的目的而被監(jiān)控，這里邊其實(shí)隱藏著很大的倫理風(fēng)險(xiǎn)。人性是不可試探的，就如神圣是不可試探的一樣。
如果一個(gè)人明確地知道自己的思想被他人掌控，勢必帶來一個(gè)硬幣的兩個(gè)面——他可能被迫變得更主動(dòng)和積極于工作，提高效率；也可能伴隨著消極思想的狀態(tài)，以便自我隱匿和保護(hù)。至于下班后能不能切換回來是很成問題的，長此以往下去，人將變得拒絕思考、停止進(jìn)步。
按照道德的要求成為一個(gè)“心中無不可與人言者”的楷模是人的極致追求，在現(xiàn)實(shí)中能夠做到哪一步，個(gè)體間差異極大。
當(dāng)然，也有學(xué)者認(rèn)為極難借助腦造影術(shù)解讀心理情緒狀況，并且就目前在工廠進(jìn)行實(shí)驗(yàn)所取得的成就，也可能具有相對性。對此，我們還是抱著審慎的樂觀態(tài)度拭目以待吧。
□劉興亮（DCCI互聯(lián)網(wǎng)研究院院長）
本文來源：新京報(bào)