在科技界,一直有句話叫“技術(shù)無罪”,都說技術(shù)只是單純的技術(shù),只是看掌握技術(shù)的人用技術(shù)來干什么。
上一個高喊“技術(shù)無罪”的人應(yīng)該是快播的王欣,結(jié)局大家都知道,三年多的牢獄之災(zāi),出獄后首推的“馬桶MT”也不是去幼兒園的車。
這幾天,微博又陷入了一場狂歡中,因為有個程序員開發(fā)了一套AI系統(tǒng),只要在APP中上傳一張女生的照片,程序就可以自動將這個女生的樣貌與成人網(wǎng)站中女生的照片進行比對,辨別出她是否曾是性工作者。
有熱心網(wǎng)友替他想好了產(chǎn)品的名字:“原諒寶”。

這個 @將記憶深埋 隨后表示,已經(jīng)“在全球范圍內(nèi)成功識別了 10 多萬名疑似從事色情行業(yè)的女性”,同時,可以對美顏、Deepfakes 換臉等有效對抗,識別率達到 99%,而對于聲音語氣模仿采用聲紋檢測對抗,識別率達到 100%。
這個消息一經(jīng)發(fā)布立馬就炸了,畢竟只要一把男性和女性放在對立面,就會有大把的流量和關(guān)注度,營銷號的老套路了,而他這個系統(tǒng)的設(shè)計,對女性太有針對性。
網(wǎng)上男女雙方對罵非常激烈,更有中立的網(wǎng)友表示,很多程序員空有技術(shù),毫無道德倫理。
迫于輿論壓力,5 月 31 日,本來說要直播接受媒體采訪的作者取消了原計劃,同時刪除了整個項目和數(shù)據(jù)庫,因言論給他人造成不便而道歉告終。

只是對這個項目的討論并沒有隨著作者”刪庫跑路“而終結(jié),輿論還在發(fā)酵,網(wǎng)上的討論愈演愈烈。
都說“技術(shù)無罪”,但實際上,使用技術(shù)的人很清楚,他到底有沒有在犯罪。
比如這個 @將記憶深埋 在同行要求開源算法,以接受檢索結(jié)果的公平度監(jiān)督時,就表示害怕違法,所以拒絕開源。這說明他知道法律底線,可能一開源就會涉及隱私權(quán)、傳播黃色信息等隱患。
但他拒絕開放 API 或查詢頁面,也不公布論文或開源算法,卻打算做成一個商業(yè)產(chǎn)品。
這個邏輯鬼才,開源算法怕違法,做成一個商業(yè)產(chǎn)品就不違法了嗎?
而且,1024、91等網(wǎng)站上的內(nèi)容在國內(nèi)本來就是違法的。用違法內(nèi)容來檢索結(jié)果,還只能保證99%的識別率,那1%的誤差給人造成的傷害誰來負責?

為什么“原諒寶”激起了眾人的反感?用事例代入一下就知道了。
大家都知道,裸辭是一件風險很高的事情,大多數(shù)準備辭職的人,都更傾向于在離職之前已經(jīng)找好下家,或者已經(jīng)有意向企業(yè)了,所以在招聘網(wǎng)站上,一般都會屏蔽掉所在公司。
但去年開始,招聘網(wǎng)站都出了一個非常惡心人的存在——助手小獵,他們在其他招聘網(wǎng)站上爬取用戶簡歷更新狀態(tài),你剛剛在網(wǎng)站上更新簡歷,一會兒你的老板就會收到提醒郵件,哪怕你只是更新了一下最新做完的項目,并沒有離職的打算。
這是一項付費服務(wù),大多時候成為老板測試員工忠誠度的工具,說難聽點,購買這項服務(wù)的老板對自己的公司根本沒有自信,對員工也不信任,說白了就是猥瑣。

代入到“原諒寶”的事情里面來也是一樣的,本身就是出于猥瑣的目的,因為這需求的無非這三種人:
1、對自己的伴侶私生活不信任的人群
2、對自己的伴侶過去的生活經(jīng)歷極端在意的人群
3、盜取這種技術(shù)滿足自己私欲/攻擊他人的作惡者
當一個技術(shù)滿足的只是人內(nèi)心最陰暗的一點猜忌,但他傷害的可能是很多無辜的人群時,這種技術(shù)存在的必要性還有多高?
其實,這樣的讓人不安的事情前段時間已經(jīng)發(fā)生過了,B站上那個AI換臉的事件,UP主把《射雕英雄傳》里朱茵演的黃蓉換成楊冪的臉,毫無違和感,普通人根本無法分辨。
在網(wǎng)友驚嘆這個視頻逼真度高之余,也有不少網(wǎng)友提出了質(zhì)疑,認為這樣做可能已經(jīng)侵犯了楊冪的肖像權(quán),迫于輿論壓力UP主下架了相關(guān)視頻。這個換臉技術(shù)也被媒體扒出,多用于一些色情用途,《神奇女俠》里的女主“蓋爾·加朵”就曾深受其害。
正如劉慈欣在科幻小說《鏡子》中說的那樣,即使某一個人有了驚人發(fā)現(xiàn)后秘而不宣,地球上一定會有同時想到同一個點子的其它人率先打破沉默,公開同樣的成果。
雖然技術(shù)無罪,是使用技術(shù)違法的人是有罪的,法律是社會的底線。
你對“原諒寶”怎么看?