人工智能技術對人的意識壓抑性控制

　　摘要：現今人工智能技術在給人類帶來豐富物質生活的同時,也偏離了原有的道德準則,迫使人們背離了作為自然人的“雙向度”生活,這一影響給后現代人類帶來了危機。文章通過馬爾庫塞的技術理論,解構人工智能技術在思想、生產和生活三個方面對人的意識的壓抑性控制,激發人們思考擺脫“單向度”生活,尋求后現代人類自由與解放的未來新出路。

　　本文源自哈爾濱學院學報,2020,41(09):35-39.《哈爾濱學院學報》(月刊)創刊于1980年，是經國家新聞出版總署批準出版發行的，由哈爾濱學院主辦的學術期刊。其前身是《哈爾濱師專學報》，1980年創刊，季刊，1999年改為雙月刊，2001年更名為《哈爾濱學院學報》，2002年改月刊至今。本著傳播理論信息，溝通學術見解，推動科學研究和教育改革，繁榮科學文化的辦刊宗旨，在體現學術性、高校性、師范性和地方性特點的同時，注重理論和實踐相結合，始終堅持新(選題新)、快(出版快)、高(刊文學術水平高和編輯出版質量高)，在為兩個文明建設服務過程中逐漸形成了自己的辦刊風格。

　　20世紀60年代之后,人們的生活發生了巨大變化,舊的自動化技術手段被新的人工智能技術手段所代替,而科學技術的發展本應從一個必然王國向自由王國前進,但事實卻并非如此。現今人工智能技術已成為新的意識形態,成為一種壓制人意識的工具。本文從人工智能技術對人的意識的影響出發,以馬爾庫塞的理論為基礎,分析和批判人工智能在思想、生產及生活等領域對人的內心向度的壓抑。

　　一、馬爾庫塞技術思想的基本內容

　　(一)技術和意識的緣起

　　技術和意識是馬爾庫塞的重要理念,同時,馬爾庫塞也受到了海德格爾、霍克海默和阿多諾、馬克思等人的技術觀點的影響。海德格爾認為技術是一種解蔽方式,以及通過技術如其所是的顯現在“世界中”。但是現代技術不僅僅是一種解蔽方式,而是一種促逼的手段,更是一種使人淪為持存物的存在,使人深陷于“座架”之中,從而使人的行為異化。馬爾庫塞的技術思想深受海德格爾的影響,他認為,技術使人深陷于囹圄之中,正如海德格爾說的“座架”,同時,把政治、經濟、文化等社會體系都納入在技術的控制之下,形成一個極權的社會,這在馬爾庫塞的《單向度的人:發達工業社會意識形態研究》中得以體現。

　　在霍克海默和阿多諾看來,技術一詞,更多的體現在對藝術和生活的控制。他們認為,現在科學技術的發展,并沒有為文化產業提供更多創造性,而是大規模的復制產品,從而形成人們的消費品。這種消費品正在消除人們的想象力,迫使人們將文化產業所呈現出來的東西與現實世界相混淆。例如,電影總是想制造一種現實的世界,而人們也會把現實的世界當作電影世界的一種延伸,以為現實的世界就是電影世界一樣。但事實并非如此,只不過是有經驗的制片人構想一個虛幻的世界,驅使人們越來越產生錯覺,從而阻礙了人們想象和思考的空間。“文化工業不斷在向消費者許諾,又不斷在欺騙消費者。”[1](P156)馬爾庫塞非常贊同霍克海默和阿多諾的技術對人們意識控制的分析,他認為“現行的社會控制形式在新的意義上是技術的形式”,[2](P9)這種新的人—技之間的結合似乎有利于整個社會的發展,但實質上是一種潛默化的控制形式。

　　在馬克思看來,技術異化并不是在技術本身,而是取決于技術本身的社會的生產關系,即“工藝學會揭示出人對自然的能動關系,人的生活的直接生產過程,以及人的社會生活條件和由此產生的精神觀念的直接生產過程”。[3](P410)而馬爾庫塞認為技術異化是技術與人之間的關系。誠然,馬爾庫塞曲解了馬克思技術異化的思想,但在解放人類自由方面,馬爾庫塞認同馬克思《1844年經濟學哲學手稿》中關于人的本質的解放思想,人要實現自我的解放就要實現藝術的解放。

　　對于技術的理解,馬爾庫塞吸收了眾多的思想,其中對海德格爾的技術異化和單向度的思想有效的結合,并指出:“因為思想和言論屬于某個思想和言論主體,如果該主體的生活依賴于實施一種被強加的功能,那么它就依賴于對這種功能的需求的滿足——因而它依賴于控制這種需求的人。”[2](P109)對于抑制性的技術控制,改變了人們的行為和單向度的思想。從霍克海默和阿多諾對人的藝術和生活的控制出發,馬爾庫塞已對科學技術就是意識形態進行了系統的分析,提出了“科學技術的發展=日益增長的物質財富=不斷擴大的奴役”。同時,馬爾庫塞吸收了馬克思的人的本質解放方式的思想。馬爾庫塞所處的時代是極度發達的工業社會,在技術高度發達的基礎之上,對人類意識壓抑性極度明顯。如今,我們所處的時代是信息時代,人工智能技術是新一輪的技術形式的存在,而馬爾庫塞的技術理論仍對人工智能技術有重大的意義。

　　(二)技術和價值中立的矛盾

　　馬爾庫塞認為,價值中立不能體現在技術上。技術是作為一種意識形態為控制手段提供了合理性,技術承載著人們的思想,或者更確切的說技術承載著社會特定人的價值,設計者本身就帶有善惡之分。所以,使用者在使用技術時,就帶有設計者的思維,按照設計者所設計的產品而使用。因此,技術“中立性”的傳統概念已經不能得到維護。

　　馬克庫塞認為:“技術本身不能獨立于對它的使用;這種發達工業社會是一個統治系統,這個系統在技術的概念和結構中已經起著作用。”[2](導言)日益自動化的生產技術裝備并非是單純工具,技術與對人的控制聯系在一起,技術對人的控制類似于海德格爾所說的“座架”,使人在技術的控制之下產生行為異化。這種對人的技術控制系統滿足社會運作所需的文化發展、生活方式及職業發展,使技術在社會中形成合理的地位。

　　在現實中,物質都是中立的,物質并不是為某種目的所構成。但是把物質以特定的歷史主體聯系起來,技術就含有一定的社會價值,它離不開技術本身所賦予的效用以滿足社會的需求,使技術在社會占有合理性的地位。社會被技術所控制并不是技術現象所呈現出來的神秘力量,它是技術所帶來的豐富物質文化而形成完善的福利體系,它比任何一個意識形態都更有說服力。各種技術控制手段是為了所有社會集團和社會利益而服務的,技術合理性的意識形態功能,不僅在它的操作應用中帶有偏見,在管理方法、藝術設計上同樣也是如此。

　　二、人工智能技術對人單向度意識的控制

　　馬爾庫塞認為,技術成為一種壓制人的意識并作為一種新的控制形式滲入到社會生活的各個方面,而人工智能技術作為技術形態中新的控制形式,它將影響人們的意識,使人背離了作為自然人的雙向度意識的生活本性,就連人的本質也將受到抑制,它的影響將更加廣泛,融入到人們的思想、生產和生活等領域中。

　　(一)思想領域:人工智能技術是人單向度意識的思維方式

　　人工智能技術作為新型的社會控制形式,無論是物質匱乏的社會還是現今物質豐富的社會,人們的行為同樣受到制約,并沒有實現個人的自由。人類受人工智能技術所支配,封閉一切對現今存在的狀況的辯證性思維方式,阻止了人類向自由和解放邁進。它產生虛假的意識,使人們形成單向度的思想和行為模式,是一種更為強大的無形力量支配著人們的思想。現今的人工智能技術的意識形態強化了個人對社會的認可,個體內心的反思向度逐漸被削減了,失去了個人的否定性思考和批判的能力。人們對人工智能技術控制缺乏思想意識上的反思,無論在思想上還是在行為上都接受了人工智能技術控制是合理的意識和觀念。人工智能技術本身并不帶有某種智能屬性,而是人們賦予了它智能屬性。社會的積極或消極的狀態都會影響人工智能技術的走向。

　　現今的人工智能技術的發展并不是和諧的發展,從人工智能技術制造和支配的角度來理解,形成一種控制和支配人的思維邏輯。人們只關心效率,將人本身排斥于意識之外,人們不再關心自身本質的存在。人工智能技術作為意識形態所發生的效用是對大眾的行為進行誘導,抑制大眾的意識。而人工智能技術本該出現的目的應該是追求自由的生活,但實際上發生的作用并不是如此:“國家機器把其防務和擴張的經濟、政治需要強加在勞動時間和自由時間上,強加在物質文化和精神文化上。”[2](P6)人工智能技術帶來的豐富物質文明和精神文明成為抑制人類意識的工具,它已經潛化在現今的文明社會中。現今的潛化并不是個人重復社會所實施的外部控制并成為永恒,而是內心的自由向度已被人工智能技術所占領。

　　人工智能技術的發展給人類提供了諸多的便捷,而這種便捷的滿足卻使“快樂原則”被削減,快樂被逆轉為順從態度而服務。馬爾庫塞認為:“同調整過的俗化的快樂相對照,升華維護著壓抑性社會加諸個人的拒接意識,因而也維護著解放的需要。可以肯定,一切升華都是由社會力量來實施的,但這一力量的不幸意識已克服了異化。還可以肯定,一切升華既接受了社會為阻止本能的滿足而設置的避障,又越過了這一避障。”[2](P4)越來越復雜化、智能化的人工智能技術,導致奴役人的思維能力增強,人類沉淪于機器操縱的對象,而在思想上,也日益受到機器的支配。

　　(二)生產領域:人工智能技術是人單向度意識的內在根源

　　人工智能技術造成了進一步的勞動分工,理性的發展已建立在被數字化計算和能被數字化計算上的合理化原則上進一步確認。勞動過程的日益智能化和數據化,導致了人們這種最終喪失了與產品的接觸,人們被分裂成孤立的、抽象的數據,人們成了可有可無、無足輕重的數據。勞動逐漸地數據化和智能化,而人在勞動過程中也逐漸的減少,人們將喪失熱情、淪喪意志,人工智能技術將成為壓迫人的潘多拉魔盒。

　　馬爾庫塞認為:“今天的意識形態就包含在生產過程本身之中。”[2](P65)而在筆者看來,現今的社會在一定意義上比先前的發達工業社會更有意識形態。現在人工智能技術對人的思想傳輸不再靠宣傳,而轉變成一種生活方式,一種舒適、智能和熟悉個人習慣的生活方式。它阻礙著質的變化,因而就出現了一種單向度的思想,單向度的思想是由制定者和數據的提供者來為系統推進的。它們的話語領域充滿了自我實現的美好愿景,這些美好愿景的話語不斷的重復,最后形成令人昏昏欲睡的命令和指令。例如,人們只能在現有的人工智能測評數據里進行測評,而這種測評最后會變為,你想要通過,就必須進行現有的單向度的操作模式進行測評,除此之外,并無其他的操作方法。這種單向度的操作模式,導致個人只能局限于單一的操作系統,限制人的行為,抑制個人的意識。

　　機械化的技術向人工智能技術轉變,逐漸廢除作為單個體的工具,而作為“獨立的單位”呈現。人工智能技術憑借著自身的技術在社會中占據合理的地位,使用者和設計者都愈來愈依賴他們所使用和設計的機器,人們只能在辛勞和愚昧的生活中生存。因為現今的人工智能技術不單單可以提高人類對自然的控制能力,創造出豐富的物質財富,形成一種智能化的生活方式,還通過與這種生活方式相適應的思維行為方式,即意識形態,來證明了對人的壓抑的合理性。

　　(三)生活領域:人工智能技術淡化人對生活的激情

　　人工智能技術的進步使人們在生活上得到了巨大的滿足,但剝奪了批判的意識和對生活的熱情。生產力發展越智能,人工智能技術越融入生活的方方面面,為人們提供多樣、豐富、智能的消費品,如智能汽車、智慧醫療、人臉識別等。各式的人工智能技術產品被當作生活中的靈魂,把個人束縛在人工智能機制的變化上,對人的控制正是在它所產生的新的需要中建立起來的,使人們在人工智能技術的環境下生活感到更加的舒適。人是在現實生活中追求自身,從各種各樣的現實的商品中認識自己,這似乎就是人真正存在、生活的全部意義。而現在的人工智能技術的出現,將現實世界和虛擬世界連接起來,人們只能在虛擬世界里尋找自身的存在,在欲望滿足、縱情享樂中維護現狀。

　　馬克庫塞認為,技術本應要為人類的自由解放而服務,但卻反而成為奴役人類的工具。人工智能技術的進步促使了智能化程度的不斷提高,這種智能化比之前發達工業的機械化不僅減少體力勞動,更為顯著的是減少腦力勞動。這樣的人工智能技術發展起來的社會是新型的、極權的、不自由的社會,是一個假象的社會,使個人的思維和行為受人工智能技術的驅使。“人性被科技壓制,自由意志的喪失、幸福感異化嚴重阻礙了精神的解放。”[4]

　　人工智能技術作為新的意識形態具有更多的虛偽性和欺騙性。我們現在已經被數據所迷惑,人們現在只相信數據,一切以數據為基礎。當人工智能技術滲透到社會生活的各方面,成為一種新的統治手段,淡化人們對生活的激情,就會引發人類生存方式的危機。例如,在于淼指導的電影《來電狂響》中可以看到,每個人都顧著自己的智能手機,已經不關心身邊的人和事。雖然這只是電影,但卻反映出現實的生活。在當今技術如火如荼的發展中,我們應充分考慮人自由解放的意義,人工智能技術并不能解決一切問題。

　　三、規避人工智能技術對人的壓抑性意識的探索

　　通過馬爾庫塞對發達工業社會技術統治論的批判進行反思,啟示我們要將人文關懷作為人的全面發展的出發點,揭露技術意識形態所帶來的負面影響。現今,人工智能技術的進步再次造就了一個繁榮的社會,這種繁榮是一個虛偽的繁榮景象,連人的本能的需要也受人工智能技術的壓抑。本文借助馬爾庫塞的理論,通過藝術的解放實現個人的真正解放的可能,希望破除現今人工智能技術異化對人的壓制性影響。

　　(一)意識的解放:走出單向度的意識

　　“單向度的人”是指個人喪失了對社會的合理批判,具有單面的思維的特征;而單向度的意識是個人接受生活中的一切,沒有任何的反抗和批判的思維,接受社會帶來的一切“合理性”準則,從而失去現實的自我。何懷宏老師在《何以為人人將何為——人工智能的未來挑戰》中提出:“我們是能夠通過我們的主觀體驗感受到我們的‘靈魂’或者說意識中的‘靈性’的,說人的意識是具有‘靈性’的,是指我們意識的復雜性、飛躍性、創造性。”[5]人的主觀意識復雜、多樣,但在單向度的社會里,人的思想就變得單一化,即封閉僵化的思想,而“幸福意識”的存在性,變成了一種不合理的存在。

　　馬爾庫塞對技術異化的解釋卻不同于馬克思,馬爾庫塞對馬克思的異化存在著一定的曲解。馬克思認為:“隨著資本主義生產的擴展,科學因素第一次被有意識地和廣泛地加以發展、應用并體現在生活中,其規模是以往的時代根本想象不到的。”[6](P572)科學技術的發展不僅提供了豐富的物質生活,而且賦予人類改造世界的力量,從順從自然到挑戰自然的轉變,逐步推進社會發展的進程。對于馬克思理解的科學技術具有革命力量的立場來看,它是體現在對資本主義社會的批判上,認為科學技術是在資本主義社會中抑制人意識的工具。“人工智能和未來勞動的‘智能化’‘無人化’趨勢發展,盡管會在一定的歷史階段即資本主義歷史階段使工人遭受新的異化和痛苦,但同時也將為以勞動解放為基本標志的未來共產主義社會創造條件,為工人和全體社會成員騰出大量自由時間創造條件。”[7]因此,在筆者看來,擺脫現今的人工智能技術對人意識的控制,走出單向度的意識,就是實現共產主義。

　　人工智能技術的迅猛發展已經引起人們的重視。人們并不是對人工智能技術的發展持有抗拒的態度,而是對人工智能技術的本質和人的本質進行反思。在現代人工智能技術為人類提供更多便捷的同時,人們不能不思考《未來簡史》一書中提到的:“等到無意識但具備高度智能的算法比我們更了解我們自己時,社會、政治和日常生活將會有什么變化?”[8](P361)馬爾庫塞的單向度理論對現今社會具有極其重要的意義,特別是對人工智能技術對人的意識控制問題具有重大借鑒意義。

　　(二)意識的重構:藝術和意識的交融

　　馬爾庫塞認為:“藝術將不再是既定機構的婢女,不再是美化其事業和不幸的技巧,相反,它將成為摧毀那一事業的不幸的技巧。”[2](P200-201)馬爾庫塞希望借助藝術的力量去擺脫技術的控制,實現人的本質解放。但馬爾庫塞同時指出,如果沒有廣告和媒體灌輸給人們的思想,技術對人的意識控制可能就會被瓦解,但這種抑制性的控制已經成為社會中的一部分,因為這是現實社會中發展所必須的。

　　馬爾庫塞認為,人們更多的喜歡在一個舒舒服服的不自由的社會中存活,要想逃離技術控制的前景是黯淡的,即“由于人們批評的、否定的、超越性的和創造性的內心向度的喪失,人們似乎根本不會再提出或想到提出什么抗議”。[2](P200)對此,筆者認為,現今的人工智能技術雖然在某種程度上對人的意識具有抑制性,但是在藝術領域,人工智能技術的確無法控制。例如,《陽光失了玻璃窗》這本書是微軟小冰參考了519位現代詩人的作品所寫的,但微軟小冰并沒有自我的意識和情感。它不懂得李白“飛流直下三千尺,疑是銀河落九天”的那種對祖國河山的熱愛;它不懂得杜甫“烽火連三月,家書抵萬金”的那種對親人的想念;它不懂得杜牧那種“商女不知亡國恨,隔江猶唱后庭花”的憂國憂民的情懷。人工智能并不是人,它只僅僅存在于創造,而非藝術,更不懂得人類的心境。既然不懂人類的心境,何談控制。因此,藝術是人工智能技術無法破除的坎。

　　馬爾庫塞在對人的意識控制研究中只是對個體的人,沒有把個人放在社會關系中來考察,缺失了馬克思視域的主要思想,即“在馬克思看來,無產階級意識從現實的社會出發,在社會物質生活中和人類物質交往實踐中不斷探索追求,本質上把控了社會的發展規律”。[4]因此,人們應該把藝術放在社會的背景中來考察,人類的心境是人工智能技術無法模仿的,也無法學習的。

　　四、結語

　　馬爾庫塞的理論時刻提醒著人們要避免淪為“單向度的人”。現今人工智能技術的大量發展和運用,給我們帶來豐富的物質生活的同時,使我們不得不思考人工智能技術是否正在奴役我們的意識,不得不思考人的本質存在的地位。在一個沒有否定、批判和超越的單向度生活方式中,是否是人類存在的最好歸宿。答案應該是否定的。馬爾庫塞的技術理論對人類的發展,特別是對現今的人工智能技術發展有著一種批判性的啟迪。

　　當下,“人工智能正在世界范圍內以燎原之勢蓬勃發展(如譜寫歌曲、創作詩集、發明創造、汽車自動駕駛、股票操作、智能監控、生物特征識別等),應用范圍仍在不斷延伸,未來可能‘無孔不入’”,[9]但我們也需要有防范意識,在精神信仰、哲學思辨、藝術創作等方面應堅守人類獨有的特征,做一個具有主體思想意識的人,而不是成為人工智能的附屬品。

　　參考文獻：

　　[1]霍克海默,阿多諾.啟蒙辯證法[M].渠敬東,曹衛東,譯.上海:上海人民出版社,2003.

　　[2]馬爾庫塞.單向度的人:發達工業社會意識形態研究[M].上海:上海譯文出版社,2006.

　　[3]馬克思.資本論:第1卷[M].北京:人民出版社,1975.

　　[4]夏志遠.“異化”的生成與啟示:讀赫伯特·馬爾庫塞《單向度的人》[J].前沿,2017,(12).

　　[5]何懷宏.何以為人人將何為——人工智能的未來挑戰[J].探索與爭鳴,2017,(10).

　　[6]馬克思恩格斯全集:第47卷[M].北京:人民出版社,1979.

　　[7]蔣紅群.無產階級會淪為無用階級嗎?[J].馬克思主義研究,2018,(7).

　　[8]赫拉利.未來簡史[M].北京:中信出版社,2017.

　　[9]季連帥.人工智能法律規制研究[M].哈爾濱:黑龍江人民出版社,2019.