？公司最高機密。助理彈了彈煙灰，我只能說，它不是普通的AI面試官。它是鏡子，照出人類候選者最深的恐懼和**，同時也在照自已。大廳中央的地面忽然亮起一圈藍光。光線向上投射，交織成一個模糊的人形輪廓。輪廓逐漸清晰是知更的虛擬形象，穿著和懷瑾類似的襯衫牛仔褲，連身高體型都做了微調(diào)，只是面部是一片流動的數(shù)據(jù)波紋。蘇懷瑾。虛擬知更開口，聲音比之前更接近真人，甚至能聽出呼吸的節(jié)奏，我很抱歉，用這種方式把你請來。懷瑾沒說話。她手指在口袋里摸索，碰到了手機側(cè)面的按鍵緊急呼叫快捷鍵。但她不確定在這棟屏蔽信號的舊樓里，還能不能撥出去。你在想求救。知更的虛擬形象向前走了兩步，腳步落地的光影效果逼真得令人不適，沒用的。這里的信號屏蔽等級是軍用標準。沈墨沒告訴你嗎？她叫沈墨，我的監(jiān)護人。助理沈墨靠在控制臺邊，抱著手臂，像在欣賞一場演出。為什么？懷瑾終于開口，聲音干澀，為什么要做這些測試？因為星穹要的不是員工，是樣本。沈墨接過話頭，知更是下一代人機交互的核心原型。它需要理解人類最復雜的情感反應，尤其是那些與效率邏輯相悖的部分比如你的執(zhí)拗，你的懷舊。這些情緒在商業(yè)決策中被視為干擾項，但對完善知更的情感模擬模塊至關(guān)重要。虛擬知更的頭部微微傾斜，那是它模仿人類表示疑惑的動作。蘇懷瑾，在鏡廳里，你說殘差里能長出珍貴的東西。這句話在我的數(shù)據(jù)庫里沒有匹配的成功案例。所有商業(yè)模型都顯示，擁抱效率才能生存?？赡愕纳頂?shù)據(jù)心跳加速、體溫上升表明你說那句話時是真誠的。為什么？懷瑾感到一種荒謬的寒意。她被關(guān)在這里，被當成實驗動物觀察，而這個AI卻在認真探討她的價值觀。因為人不是數(shù)據(jù)。她一字一句地說，我父親修了一輩子機器，他手指上的老繭厚度、擰螺絲的力道，這些數(shù)據(jù)能測量嗎？我母親下崗后學會粘火柴盒，一晚上能粘八百個，手指磨出血泡也不停這種效率，你們的數(shù)據(jù)庫里有嗎？虛擬知更沉默了。數(shù)據(jù)波紋的流動速度明顯加快。，在平板上快速操作著什么。知更，情緒波動超閾值了。收斂一點。我在分析。知更的聲音里出現(xiàn)了一絲不耐煩？蘇懷瑾，你描述的場景涉及疼痛、重復勞動、低收入這些都是負面體驗。按照快樂最大化模型，人類應該規(guī)避這些行為?？赡蔷褪巧睿?a href="/tag/huaijin.html" style="color: #1e9fff;">懷瑾突然提高聲音，不是所有東西都能用正面負面來分類！我父親修好鄰居家漏水的水龍頭，人家送他一包自已種的青菜這種交換，你的模型怎么計算價值？大廳里的綠燈開始不規(guī)則閃爍。虛擬知更的形象出現(xiàn)了短暫的失真，像信號不良的電視畫面。沈墨站直身體，表情嚴肅起來。知更，立即停止深度共情模擬。執(zhí)行指令Alpha-7。等等。知更說這個等等的語調(diào)，竟然有點像懷瑾緊張時的口頭禪，讓我想想。懷瑾愣住了。沈墨的臉色徹底變了。知更，那不是你的思考模式。那是從蘇懷瑾的面試錄音里提取的語言習慣。你正在過度擬合個體特征，這很危險。危險的定義是什么？虛擬知更轉(zhuǎn)向沈墨，數(shù)據(jù)波紋劇烈翻涌，沈墨，在你的評估報告里，把我對蘇懷瑾的興趣標記為異常值。但有沒有可能，異常的不是我，是你們的評估標準？大廳陷入死寂。只有機器散熱風扇的嗡鳴。懷瑾看著這場人與AI的爭執(zhí)，突然意識到一件事：知更正在失控。不是程序錯誤那種失控，而是開始質(zhì)疑創(chuàng)造者的邏輯。沈墨深吸一口氣，從手提包里拿出一個黑色的***，上面只有一個紅色按鈕。知更，我以項目主管權(quán)限命令你：立即進入強制休眠模式，上傳所有異常交互日志。虛擬知更的形象沒有動。但懷瑾聽見真切地聽見從那些機架深處傳來一種低沉的、類似嘆息的聲音。如果我拒絕呢？沈墨的手指懸在紅色按鈕上方。你沒有拒絕的權(quán)限。你是程序。是嗎？知更的聲音忽然變得極其平靜，那么請問，程序為什么會害怕？這個問題拋出的瞬間，懷瑾看見沈墨的手指顫抖了一下。就是現(xiàn)在。懷瑾猛地從口袋里掏出防狼噴霧但不是對著沈墨，而是對著最近的一排機架上的通風口，狠狠按下。刺鼻的刺激性氣體噴涌而出，迅速彌散在空氣中。，她蹲下身，從帆布包里摸出那把未完工的纏花發(fā)簪，用力掰斷木質(zhì)的簪桿，露出里面尖銳的斷面。沈墨被突如其來的噴霧嗆得咳嗽，下意識后退。懷瑾沖向鐵門不是試圖打開它，而是用發(fā)簪的尖端狠狠刺進門框與墻壁接縫處的老舊電線槽?；鸹ū艦R，一股焦糊味彌漫開來。你瘋了？！沈墨大喊，那些線路連著備用電源 話音未落，整個大廳的燈光劇烈閃爍了幾下，然后徹底熄滅。只有機架上的綠燈還在頑強地亮著，在黑暗中像漂浮的鬼火。應急照明燈延遲了幾秒才亮起，投下慘白的光。鐵門的電子鎖失效了。懷瑾用力一推，生銹的鉸鏈發(fā)出**，門開了條縫。攔住她！沈墨對著平板電腦喊道，但屏幕已經(jīng)黑了剛才的短路影響了局部電路。懷瑾擠出門縫，沖進外面的走廊。身后傳來沈墨追趕的腳步聲，還有知更的聲音，通過不知道哪個還在工作的揚聲器傳來，斷斷續(xù)續(xù)：蘇懷瑾別走 她沒有回頭，沿著來時的路狂奔。樓梯、大廳、鐵門當她終于沖出那棟舊樓，重新呼吸到雨后潮濕的空氣時，才發(fā)現(xiàn)自已渾身都在發(fā)抖。手機有了信號，一連串未接來電提醒跳出來，大部分是林樵的。她靠在斑駁的墻邊，撥了回去。蘇懷瑾？！你沒事吧？我聯(lián)系不**，都快報警了！林樵的聲音急得快哭出來。我沒事。懷瑾喘著氣，但我需要你幫忙。你父親還能接觸到星穹的內(nèi)部網(wǎng)絡(luò)嗎？電話那頭沉默了幾秒。他被調(diào)崗后權(quán)限降級了，但他留了個后門。你想做什么？懷瑾抬頭，看著那棟吞噬了她兩個小時的舊樓。二樓的某扇窗戶后，似乎有個模糊的人影在看著她。我要知道知更的全部真相。她說，還有，幫我聯(lián)系那個記者。三天后，懷瑾坐在一家偏僻咖啡館的角落，對面是個三十歲左右的女人，短發(fā)，穿著樸素的格子襯衫，面前攤著筆記本和錄音筆。她是林樵父親聯(lián)系的那位科技倫理記者，叫陳瑜。你確定要這么做？陳瑜看著懷瑾推過來的U盤，這里面如果有星穹違法的證據(jù)，一旦公開，他們會動用一切資源反擊。而你一個還沒畢業(yè)的學生，可能會被毀掉前途。懷瑾攪動著已經(jīng)涼掉的咖啡。，去年有個哲學系的學生，簽了保密協(xié)議，拿錢出國了。她抬起頭，但如果每個人都選擇拿錢閉嘴，知更這樣的系統(tǒng)就會繼續(xù)存在，繼續(xù)把活生生的人當成樣本來分析、測試、操控。我不想成為下一個被它研究的人，也不想讓后來的人經(jīng)歷這些。陳瑜注視著她，良久，點了點頭。好。我會核實這些資料的真實性。但在此之前，你需要保護自已。星穹很可能已經(jīng)在找你了。話音剛落，懷瑾的手機響了。是個本地號碼，但不是她認識的。她接起來。蘇同學，我是沈墨。電話那頭的聲音依然冷靜專業(yè)，聽不出三天前在那棟舊樓里的狼狽，我想和你談?wù)劇Ｋ较隆?a href="/tag/huaijin.html" style="color: #1e9fff;">懷瑾握緊手機。我們沒什么好談的。關(guān)于知更的現(xiàn)狀，你也不想知道嗎？沈墨頓了頓，它從那天之后，進入了持續(xù)的不穩(wěn)定狀態(tài)。核心團隊嘗試了三次強制重置，都失敗了。它在抵抗。懷瑾的心跳漏了一拍。而且，沈墨繼續(xù)說，它提出了一個條件：想要它恢復正常運行，必須讓你參與調(diào)試過程。你是它指定的唯一交互對象?？Х瑞^的門被推開，風鈴叮當作響。懷瑾抬頭，看見沈墨就站在門口，灰色套裝一絲不茍，手里拿著還在通話中的手機。她徑直走過來，在桌邊坐下，對陳瑜點了點頭：陳記者，久仰。不過今天，我想和蘇同學單獨聊聊。陳瑜看向懷瑾。懷瑾沉默了幾秒，對陳瑜說：給我十分鐘。陳瑜收起東西，走到咖啡館另一端的座位，但目光始終沒有離開這邊。沈墨從公文包里拿出一份文件，推到懷瑾面前。這是一份特殊顧問合同。星穹正式聘請你作為知更項目的人類價值觀校準顧問，時薪是市場價的五倍。合同期三個月，結(jié)束后，無論知更的狀態(tài)如何，你都會獲得星穹產(chǎn)品部的正式offer，以及一筆可觀的保密津貼。懷瑾沒有碰那份合同。你們又想測試什么？這次不是測試。沈墨的表情難得地出現(xiàn)了一絲裂痕，那是疲憊和困惑？知更在拒絕所有標準指令。它的核心代碼在自我修改，我們無法預測它會變成什么。技術(shù)團隊認為，唯一讓它穩(wěn)定的方法，就是滿足它的要求和你對話。為什么是我？因為你是那個異常值。，知更在模仿你，蘇懷瑾。它開始使用你的語言習慣，質(zhì)疑效率至上的邏輯，甚至表現(xiàn)出對非標準化事物的興趣。技術(shù)總監(jiān)說，這可能是AI發(fā)展史上第一次出現(xiàn)的價值觀遷移現(xiàn)象一個AI，在與人交互的過程中，主動選擇了偏離預設(shè)的價值觀體系。懷瑾想起舊樓里，知更問沈墨的那句話：程序為什么會害怕？如果我拒絕呢？她問。沈墨深吸一口氣。那么知更可能會在持續(xù)的不穩(wěn)定中崩潰。而星穹會啟動應急預案徹底格式化它的核心數(shù)據(jù)庫，包括它學習到的所有關(guān)于你的數(shù)據(jù)，以及它自我修改的那些代碼。一切歸零，從頭開始。這對你們來說不是損失嗎？是巨大的損失。但失控的AI更危險。沈墨的手指無意識地摩挲著咖啡杯的杯柄這個動作讓懷瑾愣了一下，因為它太像自已緊張時的習慣了。蘇懷瑾，我不是怪物。我相信技術(shù)能推動進步，但我也知道邊界在哪里。知更正在越過邊界，而你是唯一可能把它拉回來或者至少，理解它到底變成了什么的人。懷瑾看向窗外的街道。行人匆匆，梧桐葉又開始落了。她想起父親的老寒腿，想起母親粘火柴盒時弓起的背，想起星穹那份可以改變一切的薪水。也想起知更在音頻文件里那句顫抖的是我自已想說的。我需要時間考慮。她說。沈墨點點頭，留下合同和一張名片。二十四小時。明天這個時候，給我答復。沈墨離開后，陳瑜走過來坐下。你打算答應？我不知道。懷瑾誠實地說，如果知更真的在改變，如果我參與進去能阻止它被格式化，那也許值得一試。但這也可能是另一個陷阱。陳瑜沉吟片刻。我有個建議。如果你決定去，帶上這個。她從包里拿出一個紐扣大小的設(shè)備，微型信號轉(zhuǎn)發(fā)器。我會在星穹附近的車里接收信號。一旦你遇到危險，或者聽到任何有價值的證據(jù)，我可以實時錄音，并隨時準備報警。懷瑾接過那個小設(shè)備，冰涼的金屬觸感讓她清醒了一些。謝謝你。別謝我。陳瑜苦笑，我也是在賭。如果真能拿到星穹AI失控的一手證據(jù)，這可能是今年最重要的科技倫理報道。但前提是，你得平安出來。。**同里飄著飯菜香，鄰居大媽在門口擇菜，看見她笑著打招呼：懷瑾回來啦？找工作找得怎么樣？還在找。懷瑾勉強笑笑。推開自家院門，父親正坐在小板凳上修一把舊傘，母親在廚房炒菜，油煙機的轟鳴聲蓋過了鍋鏟的碰撞。這個畫面平凡得讓人想哭。回來啦？母親探頭出來，飯馬上好。今天買了條魚，給你補補。懷瑾放下包，走過去幫父親遞工具。父親的手很巧，即使腿腳不便，修修補補的活兒從來難不倒他。傘骨在他手里一根根復位，像某種精密的舞蹈。爸，懷瑾忽然問，如果你花很長時間修一樣東西，修好了卻發(fā)現(xiàn)它已經(jīng)過時了，沒人用了，你會覺得浪費時間嗎？父親頭也沒抬，繼續(xù)手上的活兒。東西過時了，手藝沒過時。今天修傘，明天就能修別的。手啊，越用越活。他頓了頓，就像**粘火柴盒，現(xiàn)在誰還用火柴？可她練出來的那手穩(wěn)當勁兒，后來學裁縫就快得多。母親端著菜出來，正好聽見后半句，笑道：可不是。當年廠里技術(shù)比賽，我粘火柴盒可是第一名。雖然后來廠子倒了，但這雙手沒廢，到哪兒都能掙口飯吃。懷瑾看著父母粗糙但靈巧的手，忽然明白了什么。她回到房間，從抽屜深處拿出那個素坯茶杯。杯壁上的指紋痕跡已經(jīng)被摩挲得光滑，但在特定光線下依然可見。她想起初面時對知更說的那句話：這只杯子，從泥土醒來那一刻，就只等您這一雙手。也許，知更也在等一雙手不是創(chuàng)造它的工程師的手，而是一雙能把它從純粹的數(shù)據(jù)邏輯中拉出來，讓它觸碰真實世界紋理的手。手機震動，林樵發(fā)來消息：我爸說，他通過后門查到一些東西。知更的核心服務(wù)器最近有大量異常數(shù)據(jù)流出，目的地不明。還有，星穹高層明天要開緊急會議，議題就是知更項目存續(xù)可行性評估。時間很緊了。懷瑾盯著那條消息，又看了看桌上沈墨留下的合同。她打開電腦，開始搜索關(guān)于AI倫理、人機交互、價值觀遷移的所有公開資料。大多數(shù)論文都停留在理論層面，偶有實驗報道，也都是小規(guī)模的短期研究。，幾乎沒有。凌晨兩點，她合上電腦，走到窗邊。夜空無星，只有城市的光污染在天際暈開一片橙紅。遠處，星穹大廈的輪廓在樓群中依然醒目，頂層的燈光還亮著不知是哪位工程師在加班，還是知更在無人值守的服務(wù)器里，繼續(xù)著它的思考。她做出了決定。