此前在2020年末，一則“戴頭盔看房”的影片曾在網路中流傳開來，但其中的主人公並非是在搞行為藝術，而是因為彼時售樓處大規模使用人臉識別系統，來區分出消費者是自然到訪、還是經過了中介。自此開始，人臉識別技術的濫用不僅讓大眾牴觸，也引發了監管層的警惕，更是直接導致了Meta方面在去年11月下線面部識別系統。
而在日前，又有一家科技巨頭對於人工智慧技術採集使用者生物資訊作出了讓步。
微軟方面在近日宣佈，將停止銷售基於人臉影象猜測使用者情緒的技術，並將不再提供不受限制訪問的人臉識別技術，以及限制其他面部識別程式的使用，以確保這些技術符合自己的人工智慧道德準則。微軟Azure的AI部門首席部門產品經理Sarah Bird在部落格文章中表示，“這些努力引發了有關隱私的重要問題，對‘情緒’的定義缺乏共識，以及無法跨越使用案例、地區和人口統計學概括面部表情和情緒狀態之間的聯絡。”
據悉，微軟的AI情緒識別技術可以推斷出受測者的情緒狀態、性別、年齡、情緒，以及其他個人屬性，也就是說其甚至已經實現了“察言觀色”。事實上，根據英國《衛報》在2019年的相關報道顯示，讓AI來解讀人類情緒已經成為一個規模達到200億美元的產業，用AI分析消費者的情緒以及預測消費者的行為，或是用AI分析患者的心理健康等應用場景，都已經在逐步落地。
然而為什麼如此有前景的技術，微軟方面會主動選擇放棄呢？這其實是因為在AI情緒識別的實踐過程中，無論是從技術角度、還是倫理角度，都存在著不可忽視的缺陷，以至於暫時將其擱置是當下最好的解決方案。
事實上，AI能夠“察言觀色”，是以計算機視覺和麵部表情識別（FER）為基礎的。其中，計算機視覺技術能夠讓機器精確識別人類的面部資訊，這也是實現人臉識別的技術基礎；而面部表情識別，則是用來分析和解釋機器所讀取面部表情中蘊含的情緒。作為機器人的AI在覺醒、併產生“靈魂”前，程式依然是經過人類設計的，這就導致AI情緒識別的理論基礎其實與人類“讀空氣”的理論基礎一樣，是融合了計算機科學與心理學的產物。
那麼AI是如何讀懂人類的情緒，並做到知人知面又知心呢？相信許多朋友都聽過“微表情”這個名詞，而其在網際網路中則被描述為了一項能夠讓你“讀心”的技術，儘管這顯然是很誇張的說法，但其實並非沒有科學依據。
據悉，心理學家Paul Ekman早在1976年就基於解剖學，建立了面部表情編碼系統（FACS）。該系統按照人的面部肌肉，將人臉劃分為大約46個既相互獨立、又相互聯絡的運動單元（AU），並分析了這些運動單元的運動特徵以及其所控制的主要區域，與之相關的表情。
例如人在生氣時通常會皺眉、眼瞼緊張、鼻孔張大，在害怕的時候會出現瞳孔變大、眉毛抬起、嘴巴大開。同時，Paul Ekman等心理學家以及達爾文認為，人類存在6種與生俱來的基本情緒系統，即恐懼、悲傷、憤怒、愉悅、驚訝和厭惡，更復雜的情緒則是這些基本情緒的衍生。而情緒識別技術則是以各種情緒對應的表情與面部肌肉動作為素材，透過標註對於表情對應的情緒標籤來對機器進行訓練和學習。
簡而言之，透過計算機視覺技術，AI能夠識別出人類面部肌肉的動作，再基於面部表情編碼系統和基本情緒模型，來告訴AI這張圖片上反應的是什麼樣的情緒，久而久之在海量資料的“灌溉”下，AI就能知道人類做出這個表情對應的是什麼情緒。雖然看起來這套理論是自洽的，但如果基本情緒系統理論本身存在問題呢？
其實，基本情緒系統的跨文化一致性一直是學界爭論的焦點，這種忽略了背景、文化和社會因素的情緒理論，也一直都有反對的聲音。美國心理科學協會曾委託五位情感科學不同理論陣營的科學家，進行了資料收集與科學證明，以論證表情與情緒之間的關係。最終論文呈現出的結果，是情緒的表達方式多種多樣，很難從一組簡單的面部運動中可靠地推斷出一個人的感受，也就是表情與情緒之間並沒有可靠的科學依據，證明兩者直接關聯。
參與這一專案的美國東北大學心理學教授Lisa Feldman Barrett就表示，“他們（巨頭）能檢測到一張憤怒的臉，但這與察覺到憤怒的情緒是兩碼事”。事實上，基本情緒系統理論之所以被人工智慧領域接納，是因為它正好契合了機器學習的能力範圍，六種固定不變情緒的框架下，大規模利用生成對抗網路（GAN）來進行無監督學習的AI情緒識別技術，當然就會迅速“成熟”。
如果僅僅是技術不成熟就罷了，在當下大眾對於個人隱私重視程度不斷加深，AI情緒識別這種不僅僅存在技術問題，而且與個人隱私關聯緊密的技術，更是挑動了許多人的神經。畢竟大家如今對於面部識別就已經很警惕了，情緒這種更私人化的東西自然是更加不希望被科技巨頭隨意評判。所以在針對科技巨頭的反壟斷浪潮中，微軟方面自然不想、也不願意與大眾對著幹。
在機器學習大規模普及前，傳統的演算法技術侷限於人類對於自身的表達，需要設計者明確計算機在給定條件下的給定動作，而現在的演算法則突破了人類表達的侷限性。這固然帶來了效率上的飛躍，但演算法雖然是模仿人的思維方式，卻無法模仿人的倫理自主性，在演算法實現的過程中排除了人類對於倫理邏輯與價值理性的追求。
所以這也是為什麼越來越多人對於科技的觀感開始趨於負面，並認為科技正在逐漸走向“邪惡”的原因了。