在熱鬧的十一黃金周，小米公司傳來喜訊——其新款車型Su7在短短幾天內(nèi)銷量激增，達到了驚人的6000輛。這無疑是對小米在科技領域又一創(chuàng)新成果的肯定。真正的雷軍，無疑在為此感到自豪，并為之慶祝。
然而，與此同時，短視頻平臺上卻流傳著一段段所謂的“雷軍罵人”視頻，這些視頻中的雷軍，憤怒地吐槽著各種話題，從對小米Su7的期望，到對調(diào)休制度的反感，每一句都顯得如此真實，每一聲都仿佛是他標志性的聲音。但，這些真的是雷軍嗎？
要不是這些語音太過離譜，真有些真假難辨。當有網(wǎng)友在雷軍的官方賬號下提及此事時，他回復了三個發(fā)怒的表情，似乎是在暗示著什么。要知道，雷軍可以說是所有大佬中對網(wǎng)友玩梗最寬容的一位了。從過去把“Are you OK？”的創(chuàng)作者正式收編，再到今年初把“軍兒，收手吧”放到發(fā)布會，他用幽默和寬容的態(tài)度贏得了不少網(wǎng)友的好感。
但是面對如今泛濫的AI玩梗，即使是雷軍也忍不了。平時不怎么對網(wǎng)梗出警的小米法務部也迅速行動，已經(jīng)走上了法律程序。當然，AI配音的受害者也不止雷軍，不論國內(nèi)外，AI配音已經(jīng)成為讓各路大佬和執(zhí)法人員頭疼的“致命玩笑”。上到作偽證干擾司法程序，下到明星的私密照片，甚至美國大選都難逃AI的干擾。
AI，怎么就成了大佬們的心腹之患？從特朗普到雷軍，都難逃AI“毒手”。不論中外，把名人“AI”一下，都是網(wǎng)友最熱衷的快樂源泉。用AI偽造他人的形象、聲音、影像，統(tǒng)一稱為“Deep Fake（深度偽造）”。在B站，“美國總統(tǒng)銳評”系列一度成為最熱的梗。對不少熱衷音樂的網(wǎng)友來說，AI更是自己“夢想成真”的神器。但玩梗娛樂只是AI工具最膚淺的用途之一。在強大功能的加持下，AI成了不少心懷鬼胎之人手中的利器。
女明星是最早受災的一批人，頂流巨星“霉霉”泰勒·斯威夫特就慘遭“AI涉黃”。各種換臉不雅照在X（推特）上瘋狂流竄，一張偽造圖片在一天內(nèi)就獲得了4700萬次瀏覽，嚇得X平臺直接屏蔽了“泰勒·斯威夫特”的關鍵詞搜索。這條消息甚至引起了白宮辦公室的注意，白宮新聞發(fā)言人讓-皮埃爾表示：“網(wǎng)絡上的執(zhí)法不嚴對女性影響更大，她們是受到網(wǎng)絡騷擾和欺凌的主要目標。”
明星們的桃色照片只是小事，深度偽造早就把手伸向了美國大選。平時本就老實的美國紅脖子可不會分辨這是不是AI，每個總統(tǒng)都可能因為一段偽造的錄音錄像丟掉選票。都不用關心美國大選，AI早就開始給國內(nèi)的案件添亂。不久前轟動全網(wǎng)的小楊哥塌房事件中，就有AI火上澆油。
盡管三只羊欺騙消費者在先，活該被監(jiān)管部門處罰，但是用這種惡劣手法造謠抹黑，也是對公眾的一種不負責任。但不管是美國大選，還是三只羊塌房，不少不法分子正在以AI作為武器，用一種十分低劣的手段入侵每個人的生活。AI的危險性，已經(jīng)不容忽視。
眾星捧月的AI，越卷越“灰”。自打誕生以來，大部分打工人對AI的態(tài)度都只有一點：這玩意到底能不能代替我的工作？但如今，原本設想中“更智能、更萬能”的AI似乎還為誕生，大部分人對AI的迭代越來越感到麻木。但AI雖然沒有在智商上突破，卻卷向了另一個反向：更好用。
過去訓練AI，往往需要精通數(shù)據(jù)和編程的專業(yè)人士對AI進行定點、定向的海量數(shù)據(jù)投放。而在如今，這一工作已經(jīng)可以被AI代替完成，部分AI應用的訓練已經(jīng)變得格外簡單，門外漢也能輕松上手。這一結(jié)果很快在深度偽造領域得到了應用。
在AI雷軍和盧文慶偽造語音引發(fā)轟動后，一家名為言域科技的公司很快就出來“認領成果”，他們開發(fā)的Reecho睿聲，就是這兩個事件背后的主力軟件。Reecho睿聲就主打克隆聲音功能，只要導入對應音頻，就能克隆對方的聲音，導入的素材越多，克隆的也就越像。
如此簡單的“作假”成本，也是深度偽造如此危險的原因。盡管睿聲的技術(shù)還不是天花板級別的成熟，有用戶說，自己使用睿聲生成的語音在10s之后就“沒法聽了”。但對于別有用心之人來說，短短10s就足以興風作浪。
面對瘋狂進化的AI技術(shù)，如果不加以遏制，很可能會成為整個社會的威脅。版權(quán)原因，是很多公眾人物對深度仿制AI開火的主要武器。但對于絕大多數(shù)普通人來說，他們寄希望于平臺和監(jiān)管。但對于平臺來說，監(jiān)管何嘗不是一件難事。
說到底，AI只是人類創(chuàng)造的一個“好用的”工具，工具本身不分善惡，其性質(zhì)完全取決于使用者的目的。在人類沉迷于開發(fā)工具的可能性時，必須要敬畏其產(chǎn)生的后果。科技必須進步，但人性不能脫韁。
