如果說2022年是元宇宙元年，那2023年，絕對可以被稱為「ChatGPT和AI」元年。

小雷敢說，很多人肯定沒想到，科幻大片里的人工智能這么快就能來到我們身邊。

ChatGPT談詩歌談人生樣樣都會，還是工作的得力小幫手，有事它真能解決問題。

(資料圖片)

AI也不再是個很遠的概念，比如AI繪畫、合成就玩出很多新花樣，讓人眼花繚亂。

但是，小雷要說但是了嚯。

都說「科技是把雙刃劍」，突然崛起的人工智能，也早就被一些灰色地帶盯上。

今年的AI畫圖，想必小伙伴們都見識過了吧？ 這以假亂真的程度已經(jīng)越來越高。

小雷發(fā)現(xiàn)有些人竟然選擇利用強大的AI，生成了一些少女性感照片以此牟利。

更離譜的是，他們還真掙到錢了。。。

AI合成少女性感照

事情發(fā)生在Reddit網(wǎng)站，有個名叫「Claudia」的19歲少女，因為自拍照火起來了。

她的這條動態(tài)簡單粗暴，附上自己美美的自拍，還有「今天感覺很漂亮」的留言。

女孩一頭烏黑秀發(fā)、一雙會說話的大眼睛、姣好的面容，加上19歲花一般的年紀。

Claudia這高顏值，很快就引來了一批老司機的跟帖留言。

圖源：Reddit

有人直接夸，女孩看起來真漂亮。

圖源：Reddit

也有的從現(xiàn)實主義角度出發(fā)，表示自己的生活里真的需要這樣的好姑娘。

圖源：Reddit

除了以上瞅著還算正常的發(fā)言，小雷發(fā)現(xiàn)嗷，更多的留言是偏向「少兒不宜」的。

由于留言尺度太大，這些我就不放出來，大伙都是文明人，一定能理解吧。

其實老司機們之所以車速這么猛，和Claudia后邊一系列騷操作，可逃脫不了關系。

圖源：Reddit

喏，只要帖子底下評論的留言風格稍微熱辣一點，Claudia就會讓人家給她私信。

這還沒完，帖子還能看到Claudia自己發(fā)布的，一些衣著清涼的性感大尺度照片。

結(jié)合留言區(qū)來看，好家伙，合著Claudia是在做生意，賣自個兒的性感照片……

「花季少女賣性感照」這個噱頭的確很大，于是乎，不少老司機早已經(jīng)上了頭。

圖源：Reddit

然而，隨著Claudia在Reddit網(wǎng)站的走紅，性感照背后的真相也慢慢浮出了水面。

原來啊，Claudia并不是一個真實存在的用戶，而是一個由AI整成的美少女形象。

除了她的自拍照以外，那些看似火辣的性感照，同樣也是由AI生成的千層套路。

而使用AI生成Claudia的，其實是兩個學生，目前他倆已經(jīng)靠賣照片掙了100美元。

就是不知道得知真相后的付費用戶們，心里會作何感想啊。。。

圖源：washingtonpost網(wǎng)

AI以假亂真，越來越強

這波付費用戶之所以會上當被騙，還是和AI生成能力大大提高，人眼難分辨有關。

AI生成圖片的原理很容易理解，先生成低分辨圖片，再逐漸豐富細節(jié)和復雜程度。

這其中會利用到深度學習模型，AI會根據(jù)輸入的指令，生成符合語義信息的圖像。

喏，深度學習模型越先進的話，AI生成的圖像也會越逼真，達到以假亂真的程度。

比如，近期的Midjourney和Stable Diffusion，它們AI生成圖片的進展就尤其迅速。

前陣子和大伙提過的Midjounrney V5模型，就讓AI「畫人」的本事有了質(zhì)的飛躍。

之前一直都畫不好的手指，現(xiàn)在已經(jīng)畫得惟妙惟肖，基本也看不出什么違和感了。

So，生成Claudia這樣一個美少女形象，對于現(xiàn)在的AI來說，壓根就不是什么難事。

圖源：推特

不知道小伙伴們有沒有發(fā)現(xiàn)，實際上Claudia的圖像還不完美，仔細看能找出毛病。

眼睛里瞳孔位置、鎖骨形狀和正常人的有區(qū)別，背景光線陰影和人物臉上的打光關系也不太對。

只能說在「顏值即是正義」面前，很多老司機都忽略了以上這些奇怪的地方了。。。

害，這也算花錢買個教訓吧。

圖源：Reddit

除了讓AI生成美少女性感照，之前提到過，AI甚至還能整出「一鍵脫衣」的離譜操作。

經(jīng)過發(fā)展后的AI，靠著照片中人物的臉部和四肢細節(jié)，就能精準還原身體膚色，生成本不存在的「脫衣照片」。

關鍵是這算法真的強，身體和環(huán)境邊緣等細節(jié)處理非常自然，不細看根本發(fā)現(xiàn)不了問題。

同樣的，這些「脫衣照片」會被不法分子拿來面向特殊癖好的人群銷售，以此賺取不義之財。

當高速發(fā)展的AI撞上「擦邊」和「色情」，AI貌似就從幫人的工具變成了傷人的武器。

圖源：網(wǎng)絡

我們該如何對待AI？

就像很多新型技術一樣，發(fā)展到2023年的AI，已經(jīng)顯示出具備改變很多行業(yè)方向的潛質(zhì)。

小雷經(jīng)常聽到，有消息又說AI會替代人工如何如何，這些其實都是后話，如今AI行業(yè)該怎樣繼續(xù)發(fā)展才是值得思考的問題。

首先咱們應該能達成共識，AI在現(xiàn)階段乃至未來還是得繼續(xù)發(fā)展的，總不能因噎廢食。

一方面，AI能夠幫助我們更好地學習、工作和生活，比如經(jīng)常需要找資料的小雷，用AI加持的搜索引擎查東西，就是比普通搜索引擎快準狠。

另一方面，AI在不懷好意的人手里，也容易滋生諸如美少女性感照騙局、一鍵脫衣侵犯他人權益等的事情。

AI就像一把雙刃劍，既能造福人類，也會帶來一系列問題，重點在于對「度」的把控。

小雷注意到嚯，目前國家互聯(lián)網(wǎng)信息辦公室已經(jīng)出手。

發(fā)布了關于《生成式人工智能服務管理辦法（征求意見稿）》公開征求意見的通知。

大概內(nèi)容說的是：

首先，國家是支持人工智能算法、框架等基礎技術的自主創(chuàng)新、推廣應用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源；其次，提供生成式人工智能產(chǎn)品或服務應當遵守法律法規(guī)的要求，尊重社會公德、公序良俗，符合一定要求；接著，提供AI服務需要先報備，使用AI服務需要先實名，生成違規(guī)內(nèi)容用戶和平臺都會有相應處罰。最后，還有一些摳細節(jié)的其他規(guī)定。

圖源：公眾號@網(wǎng)信中國

這份管理方法還在征求意見階段，有興趣的小伙伴可以反饋一波自己的意見。

總的來說，其實這份管理方法（征求意見稿），考慮得還是相對很全面的。

既有AI內(nèi)容提供商和使用者的監(jiān)管，又有使用要求和生成內(nèi)容的管理，還不錯。

小雷也希望，其他地區(qū)能夠抓緊上線AI相關管理條例，讓AI早日回歸發(fā)展正規(guī)吧。

封面圖源：Reddit

關鍵詞：