【科學(xué)的溫度】ChatGPT被指沒“人性”,可能產(chǎn)生哪些危害?

分享到:

【科學(xué)的溫度】ChatGPT被指沒“人性”,可能產(chǎn)生哪些危害?

2023年02月20日 14:06 來源:中國新聞網(wǎng)
大字體
小字體
分享到:

視頻:【科學(xué)的溫度】ChatGPT被指沒“人性”,可能產(chǎn)生哪些影響?來源:中國新聞網(wǎng)

  中新網(wǎng)2月20日電 (中新財經(jīng)記者 吳濤)火爆出圈的ChatGPT持續(xù)引發(fā)關(guān)注,有人和它產(chǎn)生共鳴,工作效率更高;也有人質(zhì)疑ChatGPT沒“人性”,或帶來更大的危害;更多的人是好奇,它將如何滲透我們的生活?

  帶著這些問題,近日,記者采訪了清華大學(xué)新聞學(xué)院教授、元宇宙文化實驗室主任沈陽,來看看他是如何看ChatGPT的。

  ChatGPT滲透多個領(lǐng)域,這些生活場景或率先落地

  據(jù)了解,此前市面上不乏一些AI應(yīng)用,可對話、可唱歌、可寫作,甚至還可以提供一些諸如“問路”這樣的基礎(chǔ)服務(wù),ChatGPT和這些人工智能有哪些不一樣呢?

資料圖。

  沈陽表示,ChatGPT和原來一些人工智能有所不同,比如它可以通過連續(xù)追問來了解一個問題的深度,一些探索的答案,這個是它的直接功能,“使用多了以后,你甚至?xí)l(fā)現(xiàn)ChatGPT還能在多輪的對話中有一定的邏輯關(guān)聯(lián)?!?/p>

  “ChatGPT現(xiàn)在一個顯著的功能是撰寫文章或提供文章架構(gòu),未來學(xué)生在大?;蛘弑究飘厴I(yè)時要求寫的論文,可能大量的都是用人工智能來自動生成了?!鄙蜿柗Q,目前看,ChatGPT相當(dāng)于211高校中等偏上的本科生水平。

  另外,沈陽還表示,未來,ChatGPT和虛擬人、機器人的結(jié)合將是必須的。虛擬人和機器人最重要的就是云大腦,下一步ChatGPT接入到各類虛擬人和機器人中將是全球趨勢。

  “ChatGPT可以在數(shù)字藏品領(lǐng)域大展身手,從輔助設(shè)計、數(shù)字文創(chuàng)、自動化生成等步驟都可以改進和提升效率?!鄙蜿柗Q。

  沈陽總結(jié),人工智能潛在的服務(wù)會從比較準(zhǔn)確性的知識,逐步轉(zhuǎn)向解釋性、闡述性的知識,到最后就是創(chuàng)新性的知識,它會逐步形成這樣一個演化邏輯。

  會替代哪些“飯碗”?對就業(yè)有影響嗎?

  沈陽表示,首先ChatGPT讓一些工具很容易被替代,同時一些工具被增強了。比如說搜索引擎、繪圖軟件、office辦公軟件等都將增強?!肮ぞ叩脑鰪姇硇实奶嵘?,也就是經(jīng)常使用這類軟件的工種,可能會比較早的被替代。”

  “還有就是客服,目前各類電商平臺或者是某個公司的網(wǎng)站上面,有些是真人在回答消費者問題,未來這些人的作用會進一步降低,因為你只要把這個行業(yè)的知識灌輸進去之后,在人工智能的加持下,自動回復(fù)或者說在線機器人它是能夠比較準(zhǔn)確的回答這些問題的。”

  沈陽舉例,還有程序員的“飯碗”也可能面臨ChatGPT的挑戰(zhàn),你只需要描述好任務(wù),人工智能就可以生成相對比較簡單的代碼,當(dāng)然下一步這些代碼會越來越復(fù)雜,但是因為人工智能也可以去通讀網(wǎng)絡(luò)上這些所有的開源代碼,它未來編程能力也會越來越強。

  有網(wǎng)友在網(wǎng)絡(luò)上稱,“諷刺的是,程序員開發(fā)出了ChatGPT,但ChatGPT卻想讓程序員失業(yè)?!?/p>

資料圖。

  最后,沈陽強調(diào),要兩面性的看待ChatGPT帶來的就業(yè)問題,這是一把雙刃劍。比如文創(chuàng)行業(yè),用ChatGPT進行文稿撰寫能讓一些“自媒體”失業(yè),但同時在一定程度上也能讓某一個平庸的“寫手”,作品質(zhì)量突然有所提升。

  “總之,ChatGPT要么提高了質(zhì)量,要么提升了效率,提升了效率的話,實際上就會造成一部分人失業(yè)了?!鄙蜿柗Q。

  被吐槽沒“人性”,可能產(chǎn)生哪些危害?

  ChatGPT走紅以后也引發(fā)一些爭議,多家媒體報道,蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克甚至直接吐槽ChatGPT在給我們帶來一些便利的同時,可能犯下一些可怕的錯誤,因為它不懂“人性”,缺乏獨一無二的人類情感和品質(zhì)。

  沈陽認為,ChatGPT的危害首先表現(xiàn)在它輸出的內(nèi)容到底可信不可信上面。很多測試結(jié)果顯示,唯一性答案的問題,ChatGPT回答得很準(zhǔn)確;但如果提的問題稍微深奧一點,可能是一個多選項時,ChatGPT出錯率就增加了。

  “如果是一個完全開放,并且胡謅的問題,ChatGPT有時候也給你胡謅。即便你正兒八經(jīng)地問問題,它可能也會給你回復(fù)一條夾雜了不實信息的內(nèi)容?!鄙蜿柵e例說。

  實際上,谷歌為此已經(jīng)付出代價。谷歌母公司Alphabet最近發(fā)布的新人工智能技術(shù)Bard在演示時發(fā)生了一個錯誤,引發(fā)投資者擔(dān)憂,導(dǎo)致該公司股價大跌,市值當(dāng)時蒸發(fā)約1000億美元。

  另外,沈陽表示,ChatGPT回答包含的媒體發(fā)布的信息相對是比較少的,所以在回答內(nèi)容的質(zhì)量上面,在價值觀的偏見上面,在某些領(lǐng)域它還是存在很大的問題的,這些問題都是未來其他的AIGC平臺需要去避免的。

  沈陽還表示,當(dāng)AI能夠代替人腦的一部分思考,人腦的思考價值性就被抵消了一部分。在教育中使用,還怎么訓(xùn)練學(xué)生的思維能力?如果教育無法優(yōu)化教學(xué)效果,人類怎么去培育新生代呢?(完)

【編輯:周馳】
發(fā)表評論 文明上網(wǎng)理性發(fā)言,請遵守新聞評論服務(wù)協(xié)議
本網(wǎng)站所刊載信息,不代表中新社和中新網(wǎng)觀點。 刊用本網(wǎng)站稿件,務(wù)經(jīng)書面授權(quán)。
未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復(fù)制及建立鏡像,違者將依法追究法律責(zé)任。
Copyright ©1999-2024 chinanews.com. All Rights Reserved

評論

頂部