情感謬誤
文/陳楸帆
關於文山苗寨的曆史，一直以來有兩個傳說。
一則說這裏的苗人與先祖蚩尤血緣最接近最純正；二則說這裏曾通往舊時法屬殖民地——越南，也是絲綢之路、鴉片戰爭、抗法戰爭的交通要道，如今居住此地的苗人，實乃越戰中受美國中央情報局暗中資助的老撾苗族遊擊隊後裔，老撾秘密戰爭失敗後為躲避殺戮，一路逃亡流落至此。
這兩個相互矛盾的傳說，無論哪個更不可信，隻要能夠帶來遊客，便值得被以各種形式反複傳頌，無論是從導遊之口、苗繡紀念品手袋、定時歌舞表演還是遊客中心的動畫短片。
無論哪個傳說都無法改變遊客日益稀少的狀況。盡管文山上的樹依然那麽綠，山花開得依然那麽鮮豔，踩堂舞依然那麽震懾人心，過去幾年間，旅遊業已經喪失了文山的支柱產業地位。本地女性不得不摘下頭上的銀飾，脫掉繡著各色圖騰和祖先形象的苗服盛裝，尋找另一份工作機會。
在中國，女性普遍被認為比男性更細膩、更敏感、更能夠捕捉他人的情緒變化並加以辨識，這代表著高度進化的同理心。心心科技接受了這一假設，選擇全部雇傭女性員工來作為情緒標注員。她們經過培訓之後上崗，作為AI情感計算係統的人類助手。係統需要大量的數據包來訓練它的算法模型，但不是原始數據，而是經過人類大腦處理加工過的標注數據，它能幫助機器穿透不同年齡、性別、種族、麵貌等外在差異，更好地理解人類情緒的本質特征。
類似的標注車間在全國有成千上萬個，它們服務於不同的AI係統，處理的數據涵蓋方方麵麵，從文本、語音、視頻到更為複雜的交互遊戲。依靠這樣的車間解決就業問題，支撐經濟收入的村子被稱為“AI村”，盡管字麵意義與實際情況截然相反。每個女工每小時能從中獲得十幾到幾十元不等的收入，取決於她們操作的熟練程度，這種水平和城市白領相比也許不算什麽，但比起在農田裏勞作或是找不到工作還是要好上太多了。
像其他小姐妹一樣，楊笑笑從綠色山丘般的家，走進“心心科技”的情感標注車間，成為一名標注女工。
車間裏寬敞明亮，每個人麵前豎著一塊超薄曲麵屏幕，正好圍擋住標注員的整個視角。她們戴著耳機以避免周圍幹擾，係統自動分配的媒體數據不斷流出，紅色方框躍動在畫麵中的人臉上。
盡管這裏的一切也是由太陽能驅動的，可不知道為什麽，笑笑總是覺得在這裏待久了會有一種煩躁不安的情緒。在苗族人的理論中，來自太陽的能量是最幹淨的，也是對人的健康最有益的，其次是風電和水電，然後才是火電和核能。媽媽讓笑笑把綠色盆栽帶進車間，說這樣能促進能量的流動，可是公司不讓這麽做。
笑笑雙手在快捷鍵盤上飛快地操作著，左手選擇情緒類別，右手標注1-10的情緒強度，快樂3、悲傷5、憤怒7……有時候，她的臉上會閃現出與標注對象臉上相同的表情。這也是為什麽心心公司選擇女孩而不是男孩作為情緒標注員的原因。
楊笑笑手上的動作越來越快，眼前不斷閃現幽靈般的各種人臉，屏幕上方的工作量數字飛速跳動，但她關心的卻是係統時鍾。
她有一個約會，就在今晚。
“心心”是一個在線約會軟件。和其他約會軟件不同之處在於，它能夠調用雲端AI的情感計算API接口，更好地幫助用戶理解約會對象的情緒變化，以提高成功率。
這年頭，線上約會變成一件微妙的事情。一方麵，似乎網絡可以跨越所有的界限，將不同地域、文化、語言、階層的個體連接在一起，但另一方麵，個體之間似乎發展出完全不同的情緒處理與反應模式，讓人心變得更加難懂，隔閡重重。
笑笑就是在“心心”上認識的Simon Zhu，一個住在上海的城市男孩。
在她的想象中，上海是一座未來之城，五光十色的電子屏幕漂浮在街道兩邊，打扮入時的行人像機器一樣麵無表情，孤魂野鬼般遊**在高聳入雲的摩天大廈間，植物和動物都隻能在規定好的縫隙裏生長，像是被切斷了與太陽的能量臍帶。她從來沒想過自己會和一個上海男孩進行線上約會，他們似乎屬於完全不同的兩個世界。
可沒想到是Simon先關注的笑笑，他說因為她的少數民族名字和增強現實頭飾讓人覺得很特別，不像那些千篇一律的網紅臉。Simon的話經常讓人聽不懂，笑笑隻能通過情緒識別功能大概猜測他到底想表達什麽樣的感覺。
笑笑在“心心”上用的名字是“誇葉笑笑”。“誇葉”是她的苗族姓氏，所以其實這才是她的真名，可在現實裏卻沒什麽機會用。包括她的增強現實苗族頭飾，也是自己製作上傳的，虛擬道具提供商似乎完全忽略了少數民族的需求。
今晚是兩人在“心心”上相識一個月，這是一個非常重要的紀念日，大部分的在線約會都撐不過一個星期。而在相識滿月時，許多人會選擇一種特別的方式來慶祝，那就是一起關閉通過算法對人像加以美化處理的增強現實濾鏡，將真實麵目暴露在對方麵前。“摘濾鏡”的儀式代表著雙方關係進入下一個階段，當然也可能意味著關係的結束。
蚩尤在上，笑笑對自己的相貌還是有一定信心的，這讓她更加渴盼今晚。
約定好的上線時間就快到了，可新的任務還在不斷地湧進來。笑笑加快了標注速度，幾乎達到了人類的極限，當然準確率難免有所下降，可又有什麽關係呢？反正係統還會派發給其他女工進行交叉審核。
工作量顯示來到了最後一組數據，一個男孩站在一座寺廟前，紅色方框疊加在他略微低下的臉上，笑笑幾乎是同時按下了“快樂”和“4”，屏幕回歸到藍色的初始界麵。忙碌的一天又過去了。
以電力驅動的高速列車行駛在綠色的山巒間，笑笑的臉倒映在車窗上，露出了放鬆的笑容。
這些“山”其實一細看，許多都是臨近的村莊建築，隻不過在外立麵、天台等原本被浪費的表麵，全都種上了綠色的植被。這源於意大利的垂直森林設計理念，不僅能夠吸附空氣中的灰塵，製造氧氣，還能降低城鎮的平均氣溫，隔絕噪音，增加生物多樣性，為鳥類、昆蟲和各種小動物創造生活空間。
這可比Simon待著的上海強太多了。笑笑心想。大城市那麽擠，那麽髒，還都是灰蒙蒙的，我可不願意去那樣的地方。
高速列車帶著一顆雀躍的心來到了大神廟站。
在苗神廟前，笑笑打開了麵罩上的“心心”應用。
這裏供奉著楓木雕成的蚩尤神像，牛首人身，四目六手，每隻手裏拿著不同的冷兵器，在夜色中分外威武懾人。
傳說中，蚩尤是與炎帝、黃帝並列的中華民族三大始祖之一。五六千年前，炎帝與黃帝聯合戰敗了蚩尤，蚩尤的九黎集團戰敗後大部分向南流徙，後來發展為西南的少數民族，其中最興盛的一支便是苗族。
笑笑有時會想，那兩則傳說之間還是有共同點的，無論選擇相信哪一種，我們都是失敗者的後代。
Simon在這之前已經呼叫過笑笑好幾次，笑笑趕緊回撥，信號通了，手機屏幕在空中投出縮小版的全息半身像，增強現實濾鏡下的Simon依然帥氣時尚。
“對不起，我遲到了，活兒太多了幹不完。”
“沒關係，我也剛到，所以……你準備好了嗎？”
笑笑看到Simon臉上飄著“期待5”的標注，心裏泛起一絲甜蜜。她微笑著點點頭，Simon卻像沒看見一樣，甚至皺起眉頭。
“如果你還沒準備好，那我們也可以不這麽做，畢竟你知道，這有一定的風險……”
“我準備好了啊，隨時可以開始。”
“可是……”
“可是什麽？”
“你的表情顯示猶豫4，不安3……”
“怎麽可能，肯定是搞錯了，我超開心的。”笑笑努力把自己的笑臉咧得更明顯。
“現在又變了，變成了害怕6。笑笑，你是不是有什麽事情在瞞著我？”
“我真的沒有，Simon，肯定是係統出了問題，要不然我現在就把濾鏡摘下來給你看？”
“不，別，讓我想想……”
笑笑看見Simon的臉上出現了“懷疑4”和“不快3”的表情，這究竟是怎麽回事？
“Simon，你在懷疑我？”
“我沒有，我隻是覺得……機器不會撒謊。”
氣氛一下子凝滯了。笑笑不用看也知道，自己臉上肯定掛著“失望10”的表情。她嚐試再解釋點什麽，卻發現信息發送失敗。Simon拉黑了她。這時“失望”變成了“憤怒”，笑笑的增強現實化身變成了戰神蚩尤的形象，頭戴牛角，揮舞著長矛和利劍，渾身散發著血紅的火光。
你有這麽多強大的武器，可你還是輸了……
笑笑心裏默念道，不知道究竟發生了什麽事情，怒火漸漸散去，隻是覺得心碎。
她突然想起了“慧師”，負責管理標注女工的AI程序，平常有什麽疑惑都可以從她那裏得到解答，她肯定知道發生了什麽。此時或許全世界有成千上萬人正在向慧師同時提問，但笑笑還是一下子就接通了慧師的頻道。
一身白色職業裝的慧師飄浮在空氣中，像是苗族傳說中的蝴蝶媽媽。她坐在巨大環形屏幕前，身後有無數不同顏色的光線在流動，編織成美麗而複雜的地圖。
“笑笑，好久不見，你還好嗎？”
“不好……慧師，是不是因為我工作不認真，係統懲罰了我？”
“嗯？出了什麽事情？”
“Simon……‘心心’……機器老是讀錯我的情緒。”
慧師似乎明白了什麽，但她的虛擬表情無法被標注，這需要很高的權限。慧師迅速調取了幾組數據，在屏幕上放大出來。有笑笑的臉，也有Simon的臉，還有兩張臉之間相連的彩色光線。她滑動時間標簽，兩張臉上的表情迅速流動。
“笑笑，你別生氣，也別沮喪。這不是你的錯。”
“我不開心……”
“我知道，你的臉上寫著呢，小傻瓜。”
“所以你能看到我正確的情緒？可是車間主任說，如果我們不好好工作，AI係統就會給我們懲罰，比如調低你在社交網絡上的信用值之類的，可不像這樣子……”
“我說了不是你的錯，是Simon。”
“Simon？他騙了我？所以他其實能看到我正確的情緒，可為什麽要騙我？他不想摘下濾鏡可以直接跟我說呀。”
“不是那種欺騙。”
“那是什麽？”
“Simon根本不存在。”
“什麽！”笑笑臉上的“震驚”突破了能夠被衡量的極限值。
“或者應該說，他不是人類。隻是AI製造出來的虛擬化身，用來引導你購買虛擬道具和服務的魚餌。”
“可是，他看上去那麽……”
“真實。我知道。網絡上到處都是Simon這樣的AI傀儡，你也不是唯一上當受騙的人。”
“可如果是由AI生成的，他怎麽會出錯呢？”
慧師飄浮了起來，張開雙臂，像隻真正的蝴蝶，她背後的屏幕開始閃爍令人不安的紅光。
“最近出現了大規模的黑客攻擊，但他們的目標並不是機器，而是人。因為人的大腦比機器更容易受到影響，尤其是情緒感知與計算的部分。隻要外部環境施加情緒性的壓力，便會極大地影響個體的判斷。我們稱之為‘情感謬誤’，這也是那個黑客組織的名字。”
“那些黑客為什麽要這麽做？”
“他們宣稱，機器剝奪了人類對於情緒的自由解釋權，人類被規訓為依賴算法才能溝通情感的動物，沒有了真實情感，也就遠離了真正的快樂。他們把我們叫作‘快樂獨裁者’。”
“……我不懂，我隻是個微不足道的標注工人，為什麽是我……”
“如果單單針對你個人確實沒有什麽意義。可像這樣的虛擬化身病毒完全沒有成本，自我複製起來毫不費力，而且會根據攻擊對象進行變形，實現精準打擊。你看看我後麵的地圖上那些紅色線條。”
慧師的身後，有許多紅色線條像導彈軌道一般跨過大陸或海洋，然後在著陸點如煙花般爆炸，不斷分裂，輻射到更小的半徑範圍。畫麵放大，那些被攻擊的區域，許多都標注著“心心”的logo。
“這些線條是？”
“攻擊性情緒流。這個世界其實並不像我們想象中那麽理性，大眾的許多決策與判斷是在情緒驅使下做出的，隻要掌控了情緒的流動，就能夠影響世界。”
“所以，打擊我也是其中的一部分……”
“是的，笑笑，事情往往沒有看上去那麽簡單。”慧師臉上快速閃爍過一組數據，像是她無法被人類辨識的細微表情，“我有一個好消息和壞消息，你想先聽哪個？”
笑笑心頭一緊。
“壞的吧。”
慧師終於笑了，不需要標注也能看出來。她調出數據，是笑笑今天上班標注的最後那幅畫麵，寺廟前佇立的少年。
“你給他標注了‘快樂4’，對吧？”
笑笑仔細辨認那幅畫麵，跟她倉促之間留下的溫暖印象完全不同，失焦的遠處顯示，這是一座專為苦行僧所修建的寺廟。少年低垂的睫毛上還帶著淚珠。他正要被剃去頭發，與繁華世界隔絕，這是一場少年向俗世告別的儀式，這絕對不可能是“快樂4”。笑笑犯了一個愚蠢的錯誤。
“……我要被開除了？”
“我就知道你會這麽想。你這份工作幹不長了，但不是因為你做得不好，而是因為機器已經足夠聰明，它們從人類的經驗裏學會了如何自我進化，甚至比人類還要更加了解自己的情緒。所以，情感標注這門職業將很快會不複存在。”
笑笑臉一沉，這是今天得到的第二個壞消息。她條件反射地給自己想象中的臉標注上“沮喪7”和“焦慮8”。
慧師伸出了雙臂，像是提供給笑笑一個虛擬的擁抱，用布滿半透明發光鱗片的白色翅膀包裹住消沉的女孩。
“好消息是，你會有一份新的工作。你被訓練出來的技能不會白費，而且你們可以去做一些機器目前還沒有辦法做到的事情。”
“比如說？”笑笑抬起頭，充滿不解。
“黑客攻擊導致了大範圍的情感謬誤，許多人甚至被誘發出各種情緒障礙，抑鬱、狂躁、譫妄甚至自殺傾向。你們對於情緒的準確判斷和同理心能夠幫助他們走出困境，重新成為一個快樂的人，這是AI所做不到的。當然，你們仍然需要AI的協助，創造出讓人感受到快樂的虛擬化身。”
“那意味著……”
“是的，笑笑，你要去上海了，那裏會有更大、更新、更先進的車間等著你。”
笑笑看著慧師背後巨大的屏幕，上麵投射出自己的臉，疊加在一座巨大恢宏的城市上，臉上的表情似乎在發生一些微妙而複雜的變化。她努力想標識自己的情緒，可是發現這變得很困難，所有的事情都發生得太快了。
也許隻有機器才能做到對人類情緒的準確標注吧。
我真的能夠讓人快樂嗎？如果我自己都不快樂的話，會不會又是一次失敗的逃離，從家鄉到我討厭的大城市？蚩尤在上，請你賜給我一些勇氣和力量好嗎……
不同情緒和數字的標注在笑笑臉上出現，又迅速消失，就像肥皂泡一樣，在爆裂瞬間閃現出七彩的光芒。
一年之後，上海
一陣清脆婉轉的鳥鳴響起，長滿了綠色植被的豆莢發出啪嗒一聲，緩緩打開，裏麵躺著一個熟睡的少女。
“醒醒，小美，該上班了。”笑笑撫摸著毛茸茸的豆莢表麵，對裏麵的女孩輕聲說道。
“笑笑姐，自從有了豆莢之後，我晚上也不做噩夢了，第二天精神好多了。”
“你呀，就是想家了。”笑笑點了點小美的鼻尖，兩人都笑了起來。
小美也是從文山苗寨搬到上海的情緒優化師，可剛到大城市的時候，她渾身上下各種不舒服，上班頭昏腦漲沒精神，晚上翻來覆去睡不著，還噩夢連連。自己情緒不好，怎麽能給用戶進行優化呢？
幸好她認識了笑笑，加入了笑笑組織的“豆莢社區”，生活才有了好轉。
笑笑剛到上海時也有著一樣的苦惱，告訴慧師後，慧師用算法分析了苗族人的生活方式，設計出了可3D打印的“豆莢”結構，應用了無土種植的高分子材料，可以容蓄水分和養料，同時允許氧氣的通透。植物種子發芽之後，根係與原材料無縫交融在一起，形成了一個小巧舒適的綠色空間，可供人類休憩放鬆。
“媽媽說的是對的，隻有能量的流動才能讓人的情緒好起來。”笑笑為自己的發現感到激動。
“也許這對用戶的情緒優化體驗也有幫助……”慧師若有所思，她身後巨大的處理器陣列發出規律的藍光，像是一塊由星空鑄成的立方體。
“豆莢社區”的成員越來越多，不僅僅是苗族同胞，許多從邊遠地區搬到上海的算法工人們都加入了組織，打印出屬於自己的豆莢，享受著來自自然的綠色能量。笑笑甚至聽說，有一些上海土生土長的本地人，也懷著強烈的好奇想要體驗。
笑笑拉開窗簾，陽光灑進房間，像是鋪了一地的金箔。她看到高樓林立的上海街頭，在灰色的鋼筋混凝土和黑色的液晶顯示屏之間，有一些綠色在摩天大樓的外立麵上悄悄地生長，蔓延，努力爬向能夠獲取更多陽光的高處。
她默默地在心裏給這座城市打上標注：
樂觀。4。