本書運用大量鮮為人知的檔案資料，深刻剖析科技的發展、運作方式及其對當下人類社會所產生的巨大影響，其中不僅涉及氣候變暖、全球監視、地緣政治這樣的宏觀命題，也包含著互聯網、智能手機、大數據法則等與你我息息相關的科技手段。作者極富啟發性地指出：我們對科技迫不及待的使用，往往缺乏全盤考慮，其對人類產生影響也無法清晰地評估，而當下社會生活的種種問題，背后都有科技的影子。我們對科技的信仰和狂熱，有時所指向的并非一個美好的烏托邦。
《連線》“2018年度科技圖書”
《紐約客》“關于當代生活的*令人不安，也*有啟發性的書之一”
《金融時報》《衛報》《紐約客》《文學中心》等世界知名媒體推薦。
通過互聯網，我們可以獲得海量的信息、多元的觀點，然而卻沒讓世界變得清晰明確，相反，它充斥著簡約化的敘事、陰謀理論和后事實主義政治。
生活在新黑暗時代，知識的傳統價值被消耗殆盡，變為廉價易得的商品。我們正尋找理解世界的新方法。未來是黑暗的，然而我想黑暗大概是未來*好的樣子。
【英】詹姆斯·布萊德爾
作家、科技專家、記者和視覺藝術家。英國《衛報》電子雜志專欄作家。知名雜志《科克斯書評》（Kirkus）稱之為：計算機時代的喬治·奧威爾。
一、Chasm/鴻溝
為什么打車軟件變成了“殺人工具”？為什么有人擔心新媒體正在解構人類的認知方式和知識體系？是誰允許手機掌握、使用、分享我們如此多的私人信息，就因為它夠“方便”？科技看起來就像我們每天都在使用的APP，操作簡潔、界面清晰，然而我們與科技的真相之間，似乎一直存在著一道鴻溝，難以跨越……
二、 Computation/計算
科技，或者干脆說明白點——電腦，真的讓我們的世界變得更清晰、高效了嗎？當我們把一切都托付給電腦（手機）時，它又對我們做了什么？當我們把前進的方向交付給GPS，它最終可能把我們帶到溝里；“算法推薦”看似服務于我們的個人愛好，但反過來說，它也正在塑造和控制著我們的愛好……人類懶惰的天性讓我們逐漸放棄了人的主觀能動性，轉而信奉“計算機思維”能解決一切問題。唯一的問題是：它真的能嗎？
三、Climate/氣候
來看看全球變暖對于每個人而言最糟糕的結果是什么：一年將不再有四季；過高的氣溫造成的波動將讓你的無線信號越來越不穩定；高溫引起的晴空湍流加劇，會讓你的飛機旅行變得越來越危險……如果這都還不算糟糕的話——當CO2達到1000ppm時（已經快了），人類的認知能力會下降21%。還不明白嗎？你變蠢了！
四、 Calculation/運算
現在人人都在談論大數據，至于它究竟是什么，大概沒幾個人能說的清楚，但這恰恰就是它的神奇之處：你不需要真的了解，只要不假思索地相信它就行了。我們的數據太多了，多到過剩。無論我們想要什么結果，只要挑選數據，排列組合，砰！真理就出現了！不需要理論支持，不需要建模檢驗，只管信就行了。我們總是傾向于相信簡單的運算能夠解釋復雜的系統，科學界尚且如此，更不用說普通人了。
五、 Complexity/復雜
為什么優步顯示我的周邊有十幾輛空車，我卻總叫不到車？為什么我的APP總是跟我要位置信息授權？它明明就是個單機游戲而已呀！我不明白這背后的運作邏輯，但是那些科技公司明白�？萍嫉膹碗s性難以被大眾所了解，科技公司也就借此來掩蓋他們的真實目的——你不懂，用就是了。但現在情況有點失控了：那些科技公司好像也不明白自己的技術系統在干什么，一條推特的假新聞就能在2分鐘內讓美股蒸發一千個億，這可是真事兒！
六、Cognition/認知
AI的簡單解釋就是：在沒有人工干預的情況下，自主解決問題。要做到這點，它首先需要學習。但是它的老師，也就是我們人類，本身就是充滿著無知和錯誤的群體��！所以AI在學習的時候，也會順便把我們的缺陷——偏見、暴力、無知等等也一并學走了。面對這樣一個智慧與愚蠢的結合物，你最好別太相信。至少得了解一下這個“學生”究竟在干什么吧！
七、 Complicity/共謀
現在的大數據技術已經能做到無處不在，大街小巷、商場、公司，甚至每個人的口袋。我們收集到充分的數據，卻沒有分析它們的能力——量太大了，根本無從辨別，最后往往事情發生了，數據還沒做出“預測”。但有誰需要事后諸葛亮呢？
八、 Conspiracy/陰謀
很多APP都有推薦機制，你甚至不需要主動去搜索內容，通過智能算法的計算，系統會自動給你推送相關內容。很多人認為自己關注的是時下的熱點，但那些只是數據系統認為你應該看的內容。這聽起來不錯——你可以只看你喜歡的東西，省去了搜索的時間，但是我們卻在這個過程中變成了傻瓜，越智能就越固化，永遠停留在了閱讀的舒適區。
九、Concurrency/并發
互聯網深刻地改變了我們獲取信息的方式，也改變了信息本身�？此凭闹谱鞯男侣�、視頻和節目背后，大多數其實并沒有多少創意，人們利用大數據搜尋最熱的關鍵詞，挖掘觀眾的喜好（通常不太正面），再用低端的人工智能制作節目。無休無止的視頻流、不停滾動的新聞推送，很有可能是算法生成的胡言亂語，或是為了賺取廣告收入而精心虛構的“新聞”，麻煩的是我們根本分不清楚。從這個角度上講，人工智能似乎帶有反智的性質。
十、Cloud/陰云
科技無疑會讓人類的未來變得更好，但好萊塢科幻電影式的憂患意識也絕不是杞人憂天。技術手段本身也許是中立、不帶偏見的，但當我們不假思索地使用它們時，總會帶來很多負面效果，信息會演變成語言暴力，商業服務會附帶上隱私侵犯，能源開發會帶來毀滅性的武器變革……不論使用者是有意還是無意。我們應該相信未來的圖景是陽光燦爛的，也應該警惕對新技術過于盲目的樂觀，它是籠罩一切的陰云。
關于科技進步增加而不是減少社會不公、以及科技不透明性所造成的社會危機的精彩論述：
法國經濟學家托馬斯·皮凱蒂（Thomas Piketty）在其所著的《21 世紀資本論》（Capital in the Twenty-First Century）中，對于收入不均問題做出了極度悲觀的表達，他認為貧富差距正在不斷擴大，財富日益集中在少數富裕的人手中。在 2014 年的美國，最有錢的 0.01% 人口，僅僅 16000 戶家庭，卻掌握了全美總財富的 11.2%——這一數字已經能與財富分配最不均的 1916 年比肩。最有錢的 0.1% 擁有總財富的 22%——相當于底層 90% 的總和。經濟衰退進一步加劇了分化速度：最頂層的 1% 攫取了 2009 至2012 年財富增長的 95%。歐洲的情況沒有如此糟糕，然而卻在朝著這個方向發展，財富的集中化比例——特別是繼承得來的財富，已經達到 19 世紀末以來的最高值。
這打破了長久以來人們對進步概念的理解，我們認為社會進步必然會帶來更大的公平。自 20 世紀 50 年代以來，經濟學家普遍相信在一個先進的經濟體中，經濟發展將會降低貧富收入差距。庫茲涅茨曲線（Kuznets curve），一個由同名的諾貝爾獎獲得者提出的假說，它宣稱隨著社會的工業化，經濟不均現象首先會趨于惡化，繼而隨著大眾教育水平的提高，人們會更積極地參與政治活動，收入分配狀況會逐步改善。在 20 世紀大部分時間里，這一假說基本上是成立的——至少在西方是這樣。然而，根據皮凱蒂的觀點，人類已經不再處于工業時代，任何相信技術進步會讓“人力資本戰勝金融資本和產業資本，德才兼備的管理者戰勝腦滿腸肥的大股東，真才實干戰勝裙帶關系”的想法都是“虛妄之談”。
在許多領域，科技恰恰是加劇不平等的關鍵因素。不可逆轉的自動化潮流——從超市收銀臺到股市交易算法，從工廠機器人到無人駕駛汽車——讓許多人飯碗不保。對于那些工作技能可以被機器取代的人來說，他們完全失去了安全保障，有時甚至就連設計這些機器程序的工程師也無法幸免。隨著機器能力的增強，越來越多的職業種類受到了威脅，而人工智能則進一步加劇了這一進程�；ヂ摼W本身就是社會不公的幫兇，它所帶來的聯網效應和全球化服務的便利性創造了一個贏者通吃的市場：從社交網絡、搜索引擎到百貨商店和出租車公司，無不如此。右派曾經指責共產主義讓人們不得不從壟斷的國有供應商那里購買商品，而如今，
變成了不得不從亞馬遜上網購�？梢哉f，正是科技本身的不透明性加劇了收入不平等現象。
2017 年 3 月，亞馬遜收購了 Quidsi，一家專售嬰兒用品和化妝品、追求薄利多銷的大型企業。Quidsi 的成功之道在于他們在每一層級的分銷鏈上都率先實現了自動化，不再使用人工操作。公司的業務核心是位于賓夕法尼亞州戈爾茲伯勒市的一間巨大的倉庫，倉庫中心是一塊占地約 20 萬平方英尺的區域，用亮黃色油漆和不同的指示標志劃分著邊界。這塊中心區域內擺滿了一層層貨架，高約 6 英尺，深也有幾英尺，上面堆放著紙尿布和其他嬰兒用品。區域周圍豎著警告標志，用來禁止人類進入這一區域拿取貨品，因為這里是機器人的地盤。
在這片機器人的地盤里，260 個四分之一噸重的亮橙色菱形物體不停旋轉、升起，取下不同的貨架單元，送到這一區域的盡頭，人類分揀員們在那里等著裝卸包裹。它們是基瓦機器人（Kiva），一種通過執行地面上的機讀指令，不厭其煩地穿梭于商品之間的倉庫自動機器。它們比人工搬運工更快、更準確，并能進行起重操作，僅在這一個倉庫就能幫助 Quidsi（母嬰網絡電商 Diapers.com 的東家）每天完成好幾千份訂單的配送。
亞馬遜對 Quidsi 公司的基瓦機器人覬覦已久。但在并購之前，亞馬遜就已經開始著手自主研發自動化操作。在位于英國魯吉利（Rugeley）的一間足足有 9 個足球場大小的天藍色倉庫內，亞馬遜雇傭了好幾百名運貨員，他們身穿短袖制服，推著裝滿書籍、DVD、電子產品和其他商品的手推車在貨架走廊中間穿梭。每個人都健步如飛，聽從一個手持儀器的指令。這個儀器會不斷接收新的運送目的地，還能追蹤運貨員的行程，以確保每位工人每天的行程在 15 英里以上和完成一定的運貨數量，這樣才能保證亞馬遜每隔三分鐘就能裝滿一輛貨車，并將貨品從該倉庫（亞馬遜在英國的八大倉庫之一）運走。
亞馬遜員工需要佩戴手持器，作為他們的倉庫導航儀，如果不這樣的話，運貨員會完全迷失在倉庫中。人類會用人類的方式存放貨品：書在這兒，DVD 在那兒，文具在左邊等等。然而對于一架智能機器來說，這樣的安排非常低效。消費者購買商品時不是按照商品名稱的首字母順序，也不是按照商品的類型，相反，他們會從整個倉庫的商品中進行選擇，邊逛邊將商品放入“購物車”中。因此，亞馬遜開發了一項名為“混亂存儲”（chaotic storage）的物流技術——當然，混亂是從人的角度來看的。根據顧客需要和商品之間的關聯來擺放商品——而非類型——可以在貨品之間構建更短的距離。擺放書籍的貨架放在平底鍋旁邊，而電視卻和兒童玩具共享同一個空間。就像電腦硬盤中的數據存儲方式一樣，貨品被分配到倉庫的各個角落，每一個物品都被貼上了唯一的條形碼，只有在電腦的幫助下才能定位到該物品。從機器的角度來安排萬事萬物保證了算法上的效率，但卻完全超出了人類的理解范疇。除此之外，這樣做會加重對工人的壓迫。
員工手中的手持儀器既是亞馬遜用于物流管理的方式，同時也是一種監控設備，它負責記錄員工的每一個動作，監測工作效率。工人們會因為沒能跟上機器的節奏、上廁所或者上班遲到而被扣分——也就是扣工資。另外，無休止的勞作讓員工們之間關系逐漸疏遠，他們必須一刻不停地聽從電腦屏幕發號施令，包裝、運貨，表現得像機器人一樣，或者說像一群擬人化的機器，只不過暫時比機器人便宜一點點。
工人們降級為人肉算法，只會按部就班地聽從指令，這樣更容易被資本家雇傭，也更容易被解雇，乃至剝削。只需聽從手持儀器安排的工人們甚至不需要會說當地語言，也不需要受過教育。所有這些因素，再加上科技進步帶來的社會原子化，讓工人們無法有效地組織、團結在一起。不論你是亞馬遜生產間的搬運工——聽命于無線條形掃描器的指令日夜奔波，疲憊不堪；還是個體網約車司機——在深夜中還跟著 GPS 導航穿梭在街頭，技術有效地阻止了你和工友們聯合起來，為改善工作條件而斗爭。（即便如此，也沒有阻止優步為了給司機們洗腦，要求他們必須每周收聽一定數量的系統自帶的反工會博客。）
當車輛和倉庫的內部被設計得如此高效，外部的改變也將隨之而來。20 世紀六七十年代，日本的汽車制造商們創造了一套名為“及時生產”的系統：從供應商那里以少量多次的方式訂購零部件。這種方法可以降低存貨量，平滑現金流，既能夠給生產規模瘦身，也可以加快生產速度。然而在另一方面，供應商們為了保持競爭力也必須加快速度——某些制造商甚至要求產品在下單兩小時之內就必須生產出來。通過這種方式，大量的貨品在距離工廠最近的地點被及時地裝載到貨車上，隨時準備運向各個目的地。汽車制造商就這樣將倉儲成本和庫存控制轉嫁給了供應商。此外，在工廠附近的窮鄉僻壤，涌現出了大量的新型小鎮和服務區，供等位的卡車司機吃飯休息，從根本上改變了工業重鎮的地理面貌。各大公司紛紛在個體層面借鑒這一經驗及其效果，要求每一位雇員必須身手敏捷，以便跟上機器的速度，從而將成本轉嫁給了這些工人。
2017 年年初，多家新聞媒體報道了優步司機在車內睡覺的新聞。有些司機是趕在深夜酒吧打烊和早高峰來臨前的間隙補一會兒覺，有些司機則根本無家可歸。當被問及對這一事件的評論時，優步公司的發言人只回應了兩句話：“在優步，司機們可以自己決定駕駛的時間、地點和時長。不管選擇哪種工作形式，我們都努力確保選擇優步出行是一段愉快之旅�！薄斑x擇”是這句話里的關鍵詞，其中的假設是為優步工作的司機們擁有選擇權。一位司機抱怨她曾在洛杉磯的深夜被三名醉酒乘客毆打，但卻不得不繼續駕駛，因為她的車是向優步租用的，而她必須履行合約、繼續支付租金。（毆打她的人沒有被逮捕。）
亞馬遜在蘇格蘭丹弗姆林（Dunfermline）的訂單執行中心位于距離鎮中心數英里外的工業區，緊鄰 M90 高速公路。如果換班時正好在黎明之前或者午夜之后，員工們就不得不花費 10 英鎊（比
時薪還高的數額）乘坐私營巴士才能上班。有些工人則干脆在倉庫附近的林地中搭建個帳篷過夜，盡管這里冬天氣溫普遍在零度以下。然而只有這樣，他們才能夠承擔得起通勤的費用，并保證每天按時上班，不會被倉庫追蹤系統自動克扣工資。
不管我們如何評價優步、亞馬遜及許許多多類似公司的高官們的道德操守，很少有人是真的故意讓工人們受苦。這也并非簡單意義上地回到 19 世紀剝削資本家和殘暴工業主的時代�；蛟S應該這樣說：在追求利益最大化的資本主義意識形態之上，科技進步所帶來的不透明性，為赤裸裸的貪婪披上了機器非人邏輯的外衣。
亞馬遜和優步都把技術的不透明性用作維護自身利益的武器。亞馬遜官網主頁的屏幕背后是成千上萬被剝削的工人的血汗：每次我們按下購買按鈕，就會有一個活生生的工人接收到電子信號開始行動起來，分秒必爭地履行職責。這個購物應用實際上就是一個指揮別人的遙控設備，但是我們這些使用者卻很難看到它在現實世界中造成的影響。
這種審美和技術上的晦澀不明，滋生了政治上的不安和企業的傲慢。優步就曾在用戶界面上故意做手腳，繼而擴展到整個系統：為了讓用戶覺得他們的系統看上去比真實情況更成功、更活躍、更有呼必應，優步有時會在地圖上顯示“幽靈車”，而實際上這些轉來轉去的潛在司機根本就不存在； 并且在用戶毫不知情的情況下，他們的行程會被跟蹤，這種全景監測系統常用于追蹤重要客戶； 此外，優步還開發了一個名為“灰球”（Grayball）的程序，專門用來拒載正在調查優步多起違規行為的政府職員。然而優步最讓我們擔心的還在于它正在造成社會原子化，并削弱人的能動性。工人們不再是雇員，而是朝不保夕的合同工。司機們也不再潛心研究數年只為獲得“門道”——這是倫敦黑人出租車司機的說法，指的是他們對城市街道了如指掌——現在，在遙遠的衛星和看不見的數據的指引下，他們只需要跟著屏幕上的箭頭從一個目的地到達下一個目的地。乘客們的疏離感也隨之增強。這項系統的應用使本地政府的稅收大幅縮水，公共交通服務質量下降，同時也加劇了社會階層的分化和城市道路的擁堵。就像亞馬遜和其他大多數數字化商業形式一樣，優步的最終目標也是用機器完全代替人工。它正在開發自己的自動駕駛項目，當首席產品經理被問到在許多司機對公司不滿的情況下，優步如何能夠長期在市場上立足時，他輕巧地回答道：“這個嘛，我們很快會用機器人把他們全替換掉�！薄梢韵胍�，發生在亞馬遜員工身上的事情，終究會發生在我們每個人身上。
科技的不透明性已經成為企業欺騙大眾、破壞地球的慣用手段。2015 年 9 月，美國環境保護署對美國在售的新車進行常規排放測試時發現，大眾柴油汽車的行駛系統中安裝了隱蔽的軟件，這一軟件通過監測車速、引擎狀況、氣壓甚至方向盤位置識別汽車是否處于被檢測狀態，這樣汽車啟動時就可自動切換至特殊模式，降低發動機功率和性能，減少排放量。而一旦上路，汽車就又會回到正常的高耗能、高污染模式。根據美國環境保護署估計，目前美國準許上路的大眾汽車的二氧化氮實際排放量是法定標準的 40 倍。歐洲同樣發現了類似的“詐騙裝置”，而在這里賣出的大眾車則更多，據估算，這些大眾汽車的尾氣排放量將會使歐洲約 1200 人的壽命減少 10 年。隱藏的技術程序不只是加重了勞工的負擔和痛苦——它們是真真切切地在殺人。
科技能夠增強人類的知識和力量，但是科技應用的不均衡也將導致權力和知識的集中化。從紡織廠到微處理器，自動化和計算知識的歷史不僅僅是技藝精湛的機器逐步取代人工的過程。在這段歷史中，權力越來越集中到少數人手里，知識也越來越集中到少數人的頭腦中。而對于普羅大眾來說，喪失權力和知識的代價最終將是消亡。
我們偶爾可以看到對科技強大的不透明性不同形式的反抗。反抗需要人們具備有關技術和網絡的知識，需要人們學會以子之矛攻子之盾。“灰球”是優步用來逃避政府調查的程序，稅收稽查員和警察有時會在車里往辦公室或警察局打電話啟動調查事宜，“灰球”就是利用這一點被開發出來的。優步公司甚至還將警察局所在的區域整個拉進黑名單，政府職員網上約車時用的廉價手機也會被它屏蔽。
在 2016 年的倫敦，優步外賣服務“優食”（UberEats）的員工就巧妙地利用“優食”應用程序改善了工作條件。當時的新合同降低了工資收入，同時延長了工作時間，司機們都想進行抗議。
但是許多司機都是深夜上崗，行程也被分散到不同的路線上，所以很難有效地組織在一起。有一小組成員在網上論壇中商議在公司辦公室組織一場抗議，但是他們清楚，要想真正發出聲音，必須得到更多員工的支持。因此，在抗議當天，司機們在“優食”應用程序上點了比薩到他們的抗議地點。每份外賣送達的時候，他們會慷慨激昂地勸說快遞員加入罷工活動。優步妥協了——盡管沒有持續多久。
在以技術為主導的市場上，美國環境保護署的測試員、亞馬遜員工、優步司機、軟件用戶、走在污染嚴重的街道上的行人都是受害者，因為他們永遠都無法看清這個市場。并且越來越明顯的是，壓根沒有人能看清楚到底怎么回事。而在快速發展、完全不透明的當代資本市場上，則發生著另一些異常詭異的事情。在那里，高頻交易員們運用著越來越快的算法分毫必爭，致使交易暗池中滋生了更黑暗的“驚喜”。
2010 年 5 月 10 日，負責跟蹤美國 30 家頂級私營公司的股票市場指數——道瓊斯工業指數的開盤價格比前一天略低，受希臘債務危機的影響，隨后幾個小時也一直處于緩慢下行的態勢。但
是剛到下午，奇怪的事情發生了。
下午 2 點 40 分，指數開始暴跌。僅僅 5 分鐘時間內，道瓊斯指數下跌約 600 點，相當于數十億美元的市值從市場中蒸發了。在最低點時，指數相比前一日的均值下跌了 1000 點，相當于總價值的 10%，呈現股市歷史上最大的單日跌幅。然而僅僅 25 分鐘之后，即下午 3 點 07 分時，股票又幾乎收復 600 點，又實現跨度最大、速度最快的逆轉。
在這混亂的 25 分鐘中，價值 560 億美元的 20 億股股票完成換手。更令人憂心的是，美國證券交易委員會稱許多交易的價格“非常不合理”，要么低至一美分，要么高達 10 萬美元，至今我們也不能完全看懂個中蹊蹺。27 此次事件被稱為“閃電崩盤”，盡管這么多年過去了，其原因依然在調查之中，人們對這事件的爭議也一直在持續。
監管機構在調查崩盤記錄時發現，高頻交易員們在這次事件中極大地加劇了價格動蕩。在活躍于市場上的眾多高頻交易程序中，許多都設置了拋售點硬編碼——跌到某個價格立即拋出股票的自動程序。隨著價格跌落，多組程序同時將股票賣出。交易完成后，新一輪的價格下跌又帶動了另一組算法開始自動拋出股票，如此惡性循環。因此，股票下跌的速度遠遠超出了人工操盤手的反應速度。有經驗的市場玩家通常會放長線，穩住大盤，而機器在面對不確定性的時候會以最快的速度撤出股市。
另一些說法則認為算法不是加劇，而是引發了危機。在市場數據中，人們發現了一項操作：高頻交易程序會發送大量“不可執行”的報單給交易所——這些報單的價格大大偏離了正常范圍，因此很容易被人們忽略。這類指令不是為了傳達訊息或者賺錢，而是故意攪亂系統以測試它的延遲性，這樣就可以在混亂中進行其他更賺錢的交易�；蛟S這些指令確實能夠通過提高股市流動性來幫助穩定股價，但它們也有可能在一開始就讓交易所不堪重負�？梢钥隙ǖ氖�，在它們造成的混亂之中，許多原本并不指望執行的交易指令卻真的成交了，從而引發了價格的劇烈震蕩。
“閃電崩盤”現在已經是上升市場中一個公認的特征，但人們仍然對其知之甚少。2013 年 10 月，全球第二大規模的“閃電崩盤”在新加坡交易所出現，蒸發了相當于 69 億美元的市值，交易所不得不對可能同時成交的訂單進行限制——主要是為了阻止高頻交易員攪亂股市的行為。
此外，算法的速度之快同樣令人無力回擊。2015 年 1 月 15 日下午 4 點 30 分，瑞士國家銀行突然宣布取消瑞士法郎兌換歐元的最高上限。自動化操盤手接收到這一消息后，在 3 分鐘之內造成匯率大幅下跌，跌幅超過 40%，直接損失達數十億元。
2016 年 10 月，算法軟件對英國脫歐協議的新聞頭條作出反應，2 分鐘之內就將英鎊對美元的匯率拉低6 個百分點，隨后又立刻回拉。可怕的是，人們幾乎不可能知道具體是哪一條新聞或是哪一種算法引發了崩盤。盡管英格蘭銀行很快譴責了自動化交易背后的人工程序員，但是這種圓滑的說辭并不能幫助我們接近真相。2012 年 10 月，一項瘋狂的算法程序不停地下單、撤單，獨占了美股 4% 的交易額，一名評論員不無挖苦地說：“算法的動機依然撲朔迷離�！�
自 2014 年以來，負責為美聯社制作短新聞的寫作者得到了一種新型新聞創作形式的幫助：全自動化寫作。美聯社是一家名為“自動化觀察”（Automated Insights）的公司的顧客之一，這家公司提供的軟件能夠自動掃描新聞故事、媒體公告、實時股票行情和報價，然后用美聯社獨特的風格形成具有可讀性的概要。美聯社運用這項服務撰寫上萬家公司的季度報告，這項工作收益頗豐卻耗時費力。雅虎是“自動化觀察”的另一家客戶，它用這項服務生成了許多足球快訊（fantasy football）板塊的體育賽事報道。結果美聯社也開始更多地報道體育賽事，而這些報道都是從每場比賽的原始數據中生成的。所有這些新聞的原本的記者署名欄中，現在都寫著：“本報道由‘自動化觀察’生成�！泵織l新聞都是出自數據庫中的某幾條數據，又變成另外一條數據，既是報社的收入保證，又是產生更多報道、數據和信息流的源泉。這種類型的新聞寫作和生產信息的方式成為數據時代的一部分——讀寫均由機器完成。
自動化交易程序就是通過這種方式，在不停地瀏覽即時新聞資訊時，捕捉到英國脫歐時歐洲社會普遍的恐慌情緒，隨后在沒有人工干預的情況下引發了市場騷亂。更糟糕的是，它們對信息的來源絲毫沒有鑒別能力，美聯社在 2013 年的一次事件中發現了這一點。
2013 年 4 月 23 日下午 1 點 07 分，美聯社官方推特賬號發送了一條兩百萬粉絲可見的動態：“重磅：白宮發生兩起爆炸，奧巴馬受傷�！泵缆撋绲钠渌~號和記者迅速前來，聲明這是一條假新聞，也有人指出這條消息完全不符合美聯社的報道風格。消息被證實是黑客所為：敘利亞電子軍（Syrian Electronic Army）隨后宣稱對這次行動負責，他們依附于敘利亞總統巴沙爾·阿薩德，制造了多起網絡攻擊案和推特名人賬戶被黑事件。然而，算法程序對于這種爆炸性新聞卻沒有鑒別力。下午 1點 08 分，道瓊斯指數——前文提到的 2010 年首次“閃電崩盤”的受害者——應聲暴跌。許多人都還沒有來得及看到那條推特消息，道瓊斯指數就在兩分鐘之內下跌了 150 點，隨后才回升至原位數，但此時市值已經蒸發了 1360 億美元。雖然有些評論員稱此次事件為一場兒戲，讓人虛驚一場，許多人也看到通過操控算法擾亂市場行為的背后所隱藏著的新型恐怖主義危機。
不加甄別地運用晦澀的、尤其是性能不佳的算法會引發匪夷所思、極其可怕的后果，交易所不是唯一的案例，只是數字市場給了算法太大的自由，才讓它一發不可收拾。
新書資訊