第88期主持人 | 尹清露
熱點事件總是曇花一現，但是與AI相關的新聞卻在半年來持續引發關注。
與此同時，被認為在這次生成式AI革命中缺席的蘋果公司，在6月5日的WWDC發佈會上亮相了一款混合現實可穿戴設備Apple Vision Pro，極高的完成度讓它從同類產品中脫穎而出，許多人認為這是第一款真正能得到大范圍應用、開啟全新時代的AR/VR設備。
科技博主鐘文澤在受邀試戴後，按捺住激動的心情說：『我的感覺就是，未來已來』無論如何，技術的發展已經成為了任誰都無法回避、必須面對的東西。
然而，就在Apple Vision Pro帶來震撼，甚至被認為實現了電影《頭號玩家》中走進虛擬世界的願望，技術背後的隱憂卻一直存在，比如它是否會加劇貧富分化與其他不平等——畢竟在《頭號玩家》中，主角韋德雖然在虛擬世界擁有華麗的化身，在現實中卻居住在破敗和貧窮的街區，過著被大科技公司傾軋的生活。
在文章《要麼滅絕，要麼適應：人類該好好治理AI了》中，被稱為『人工智能教父』的約書亞·本希奧也認為，人工智能的社會影響會直接與它的應用和佈局捆綁在一起，由於資本主義鼓勵競爭的實質，盈利和占據市場份額可能導致潛在的、不受控制的人工智能。
Apple Vision Pro。
圖片來源：蘋果官網
另一方面，技術的倫理問題也浮現了出來。
長期以來，哲學家都在爭論人工智能會不會失控甚至摧毀人類，但往往停留在科幻構想的層面，隨著大公司加快部署AI等技術，這一議題的嚴肅討論也變得越來越迫近。
5月，美國兩黨參議員和OpenAI首席執行官薩姆·奧特曼表示，需要一個新的聯邦機構來保護人們免受AI『變壞』的影響。
正如本希奧所言，ChatGPT和GPT-4這樣的人工智能系統之所以會引起廣泛關注，主要是因為它們能通過著名的圖靈測試，你很難辨別自己正在對話的是機器還是人，而這帶來了相當程度的危險。
『非必要』的人工智能頭盔，技術停滯的21世紀
林子人：我還沒有完全從ChatGPT帶來的震驚中緩過神來，蘋果就推出了Vision Pro，今年人工智能技術的突破性成果真是令人目不暇接。
如果我說我對Vision Pro無感甚至有些厭惡，是不是顯得自己很盧德主義？但我的確覺得，技術分為『必要的』和『非必要的』，人工智能頭盔就屬於『非必要』的那一種——是的，它能幫助我們突破肉眼的極限，看到更精彩豐富的東西，但這個需求是被創造出來的。
我最大的擔憂是，在這個人際關系本就日漸松散的時代，此類工具會讓我們的注意力更加遠離附近的世界，進入某個虛擬的、根據個人喜好定制到完美的世界，它會不會進一步瓦解人類社會的存在基石？
徐魯青：我也很同意子人的看法，看到一些技術測評裡提到Vision pro的研發成本和火箭SpaceX幾乎相似，但這一切隻是為了讓我們能更好地沉浸式玩遊戲？或者投出3個應用處理工作在辦公室更好辦公嗎？
格雷伯也認為，21世紀是個技術停滯的時代，『技術本身的純粹物理之力讓我們感到歷史的車輪滾滾向前，而今，我們卻隻有屏幕和圖像可以把玩』他覺得，自20世紀70年代起，我們的技術投資不再針對會帶來別樣未來的技術，而是轉向了針對強化勞動紀律和社會控制的技術。
科技要麼是提高管理效率、監控能力，要麼是增加消費水平或軍事力量。
所以我們會看到研制模仿和景觀的技術日新月異，比如最新款蘋果手機，比如Vision Pro。
但工業革命這麼久了，曾經的人們對科技的想象，是抵達一個擺脫重復性勞動、狗屁工作，每個人都能發揮靠創造力去生活的世界，他們會想到200年後的人類連一天工作八個小時的願望都難以實現嗎？或許技術進步從來不是根據人真正的需求驅動的，而是由資本的邏輯與官僚制度的邏輯決定的。
潘文捷：小時候的一大夢想就是能夠擁有《美少女戰士》裡水野亞美那樣的眼鏡，它比較輕盈，而且是直接看見外部世界並且用於分析外部世界的。
但是現在發佈的蘋果設備首先是有點重量的，時間長了脖子疼，而且它的頭顯並不透明，戴上它你會沉浸在裡面的世界，當然也可以通過它看現實中的外面世界，不過那是通過前端的兩個攝像頭來拍攝並且傳回眼中的，這一定會產生信息的丟失。
目前看到的測評都是認為對現實世界的傳感並沒有那麼清晰。
2016年三星發佈會上有一個非常經典的照片，就是現場觀眾都戴上了三星Gear VR眼鏡，紮克伯格從他們身邊走過，但大家都渾然不知。
是不是有點細思極恐的意味？紮克伯格光彩照人地行走在無知無覺的普通人中間，甚至他臉上泛起的微笑都被人們解讀為『creepy』。
社交媒體上不少議論的聲音問，這是不是對人類未來的寓言？人們都沉浸在虛擬世界之中，領導我們的人在我們身邊悄然走過？不論怎樣，人們都已經黏在手機、筆記本電腦的世界裡，未來還可能繼續沉溺在AR/VR眼鏡的世界裡。
三星發佈會的與會者佩戴Gear VR眼鏡《圖片來源：https://news.samsung.com/》
尹清露：這也很像降噪耳機，降噪的同時也隔絕了自然的鳥鳴和人聲，所謂的『通透模式』僅僅是讓你聽到最低限度的車鳴喇叭或者機場播報，如同Vision Pro的『精巧』設計——當有朋友走到你面前，ta會突破虛擬畫面的限制、映入你的眼簾。
但此時的現實世界也是人為制造的，是純然功能性的。
窮人更可能沉浸虛擬世界，技術也無法脫離物質實體
潘文捷：未來MR《Mixed Reality》眼鏡最好是透明的，像水野亞美的眼鏡，至少那樣看起來會正常一點兒，其中最重要的當然是人應該保持和現實世界的關聯。
其實，越是窮人，越可能長時間沉浸於虛擬世界，失去與現實世界的聯系。
在《欲罷不能：刷屏時代如何擺脫行為上癮》一書中，普林斯頓大學心理學博士亞當·阿爾特看到，那些生產和設計高科技產品的人仿佛遵守著毒品交易的頭號規則——自己絕不能上癮。
喬佈斯的孩子從未用過iPad，Twitter創始人沒有給兩個兒子買過平板電腦，遊戲設計師對『魔獸世界』避之不及，很多矽谷巨頭根本不讓自己的孩子靠近電子設備。
『這就好比宗教領袖不讓孩子參加宗教活動』
《欲罷不能：刷屏時代如何擺脫行為上癮》
[美] 亞當·奧爾特 著 閭佳 譯
機械工業出版社 2018-4
另一方面，根據韓國弘益大學建築系教授劉賢俊的分析：『越是生活在狹窄的房子裡，看電視的時間就越長。
越是在擁擠的地下鐵裡，就越會長時間看Netflix。
某方面來看，越是收入低的人群，漸漸地越被推擠到線上空間』對生活在狹窄空間的人來說，隨著線下空間逐漸縮窄，空缺會由線上的空間來填補。
『享受自然、享受寬敞的空間，從某方面來看，這可能會漸漸變成有錢人的專屬』可以說，紮克伯格的這張照片背後就暗含著人們對新技術加劇階層分化的隱憂。
林子人：互聯網、人工智能這些高科技總是給我們一種幻覺，創新非常輕盈，財富如煉金術師的魔法那般從無到有，但其實它並不能脫離物質實體的支撐，這一事實其實掩蓋了某種不平等。
這兩天讀《履單：無所不有與一無所有》，書中涉及了一個我此前從未思考過的話題，令我倍感驚異，那就是我們如今依托互聯網從事的一切活動——發信息、網購、在流媒體上聽音樂看電影，以及在不遠的未來戴著Vision Pro頭顯躍入數字世界徜徉——都依托巨大的服務器，這些服務器設備坐落於占地巨大的數據中心，數據中心隻會創造很少的就業崗位《一個占地20多萬平方英尺的數據中心之需要20名工程師和技術人員就可操作》，卻需要大量的電力和水資源來運行和冷卻機器。
《履單：無所不有與一無所有》
[美]亞歷克·麥吉利斯 著 曾楚媛 譯
文匯出版社·新經典文化 2023-6
書中介紹，2018年，亞馬遜、微軟、谷歌和臉書的資本支出總額達到770億美元，主要用於建造和維護數據中心。
很多機器隻能維持幾年的壽命，意味著數據中心的建造熱潮還伴隨著大量的廢品產出。
與此同時，運營數據中心所需的能源大部分來自不可再生能源，比如煤炭。
在亞馬遜數據中心的能源消耗中，隻有12%來自可再生能源，落後於微軟和臉書，但領先於谷歌。
在全美范圍內，每花費10億美元修建數據中心，在20年內就會消耗70億美元的電力。
更令人驚詫的是，傑夫·貝索斯對能源消耗問題相當不以為然——根據本書作者的觀察，他是一個徹頭徹尾的自由市場主義者，對『企業社會責任』不屑一顧——在他看來，地球能源耗盡是遲早的事，這是為什麼我們需要登月。
如果真有那麼一天，猜猜誰能獲得去月球的通行證？
徐魯青：這讓我想到當時ChatGPT4剛推出的時候，《Times》發佈了一篇報道，調查了OpenAl背後的低薪工人狀況。
要保證ChatGPT最終輸出的語句規范文明，需要大量人工訓練AI，他們一般是外包工人，薪資低廉，保障缺失。
根據這篇報道，OpenAl以時薪1.32美元雇傭了千萬肯尼亞外包工對內容審核，而由於長期沉浸在有沖擊性的污穢內容中，很多工人都出現了PTSD、抑鬱、焦慮等心理問題，失眠與噩夢頻頻發生。
在AI發展浪潮中，很多人擔心AI會發展到超過人類智力的水平，但還有一種擔憂是平庸人工智能的濫用。
如果平庸人工智能得出的結論或效果不僅不被懷疑，還在政策制定中被過度參考，可能會造成很多不公後果。
美國政治科學家Virginia Eubanks在Automating Inequality: How High-Tech Tools Profile，Police，and Punish the Poor一書裡研究了AI技術普及會如何加劇已有的貧窮與不公正，相關案例正在全球發生。
比如美國警察局會使用預測分析軟件，在其指導之下，更頻繁地對低收入社區巡邏和搜索。
如果將ChatGPT用作決策信息源，是否會加劇已有的系統不公，給社會弱勢群體造成更大的傷害？
AI與愛的倫理：技術能夠減輕寂寞嗎？
董子琪：最近看到國內外都有網紅將自己的形象、朋友圈、語音制作成AI，兜售給交友APP的新聞。
通過定制服務，用戶可以將這位網紅當成自己的女朋友，與她聊天，分享見聞，請她提供建議，還能瀏覽她的社交狀態。
有人說這是電影《HER》的現實版，你可以與她陷入真摯的純愛，聽她用性感的聲音說愛你。
不過，在與你交往的同時，她也會對成千上萬付費的男人說『我愛你』。
這真的可以減輕寂寞嗎？批量復制的愛還有一絲純潔性嗎？或許真像歌裡唱的，『愛一個人不用大腦，隻是各取需要』
關於人工智能改造的陰暗面，想到喬治·桑德斯一篇驚悚的小說《森普立卡女孩》，故事開頭設有懸念，很多人家的庭院裡都想要裝置SG，並視其為富裕的象征，可小說卻沒有解釋SG是什麼，後來才揭示，SG是森普立卡女孩的縮寫。
她們是從落後國家偷渡來的貧窮女孩，經過一番改造後，可以成為富人庭院中的裝飾，隨風輕輕搖擺。
人工智能改造的倫理問題在很多作品中都呈現過，像是《銀河護衛隊3》裡的被改造的動物系列——智能浣熊、車輪海象和爪牙兔子，還有遊戲《底特律變人》裡被改裝成武器、肢體殘缺、隻能關在監獄裡的人造人。
畫面對準它們的時候，我難免有一種強烈的不適感。
《銀河護衛隊3》中的浣熊。
圖片來源：豆瓣電影
潘文捷：子琪說的使用別人的AI語音，和同人創作是不是有點兒像？同人創作也被指出可能會違法，比如江南寫《此間的少年》就被金庸起訴了，主要是因為上市之後銷售量高，有很大的經濟利益。
假設有人用孫燕姿的AI聲音賣錢，我想可能就要考慮其中的法律問題了。
但是普通人的圈地自萌又怎麼說呢？當我嗑的CP被別人使用AI聲音來創作合唱的時候，我隻感到喜聞樂見，拍手稱快。
如果說不存在和原主的競爭關系，是不是沒有什麼大問題？而且，現在市面上最頂尖的AI合成聲音，高科技的痕跡還是存在的，不能夠躲過專業聲紋識別技術來以假亂真，所以，即使是用AI做了什麼不該做的事情，也還是會被抓到把柄。
尹清露：我想這其中存在尺度的問題。
嗑人工智能CP合唱是無傷大雅的情感撫慰，但是AI女朋友觸及主體性，你對於愛的信念也會面臨崩塌。
另一個例子是用AI復活親人，好似能帶來救贖，但這救贖是否過於虛假而有害？劉宇昆的小說就探討過這個主題。
也像是Apple Vision Pro宣傳片中小女孩們圍坐在一起吹生日蠟燭的動態照片，這讓我想起《銀翼殺手2049》裡復制人記憶的設計師安娜·史特林博士，她可以構造花草樹木甚至是美麗的大雪，也同樣復制過吹生日蠟燭的回憶，那看上去真是十分動人，安娜卻是因為生病才不得不被困在無菌的隔離空間裡的。
所以不禁令人發問：這一切是否真的值得？
《銀翼殺手2049》中的虛擬生日蛋糕。
圖片來源：豆瓣電影