AI代寫愈加火熱，人工智能潛在隱患又該如何防范？
編輯：2024-01-05 11:39:28
時(shí)值年末，又到了一年一度寫年終總結(jié)的時(shí)候，*近，武漢的一家公司在朋友圈發(fā)布的招聘啟事引發(fā)關(guān)注。內(nèi)容說(shuō)：“今年在AI的協(xié)助下，大致會(huì)撰寫35萬(wàn)份以上報(bào)告（去年是26萬(wàn)份），年底來(lái)臨，有不少總結(jié)性報(bào)告要寫，招多個(gè)兼職報(bào)告撰寫人員。”據(jù)了解，有了AI加持，這家公司在精簡(jiǎn)10%-20%人力的基礎(chǔ)上，單量卻比去年同期增加20%-30%。
此外，據(jù)報(bào)道，在某線上購(gòu)物平臺(tái)，輸入“年終總結(jié)AI”“代寫”等關(guān)鍵詞，立刻蹦出許多相關(guān)產(chǎn)品。商家在產(chǎn)品介紹中寫下宣傳語(yǔ)：“AI智能原創(chuàng)、寫作必備”“懶人辦公”“三分鐘急速交稿”等。產(chǎn)品銷量一般在幾千單左右，有的店鋪月銷量達(dá)6萬(wàn)單以上。
隨著科技快速發(fā)展，人工智能（AI）應(yīng)用越來(lái)越廣泛，它深入到醫(yī)療、教育、娛樂等各個(gè)領(lǐng)域。如今，伴隨各類年度總結(jié)任務(wù)的集中涌來(lái)，AI代寫業(yè)務(wù)火了，然而，這看似*輕松的背后，卻隱藏著巨大的風(fēng)險(xiǎn)！
那么
人工智能應(yīng)用使用過(guò)程中
隱藏哪些風(fēng)險(xiǎn)呢？
下面跟著小密一起來(lái)看！
人工智能在促進(jìn)社會(huì)發(fā)展進(jìn)步的同時(shí)，也伴隨著一些風(fēng)險(xiǎn)隱患，以今年爆火的ChatGPT為例，若被不當(dāng)使用或?yàn)E用很有可能影響到國(guó)家安全、社會(huì)穩(wěn)定、企業(yè)利益和個(gè)人用戶權(quán)益等諸多方面。
而ChatGPT類大模型加速了數(shù)字世界和物理世界的深度融合，引領(lǐng)人工智能進(jìn)入新的發(fā)展階段。與此同時(shí)，人工智能固有的不確定性、不透明性、難以解釋、事實(shí)性錯(cuò)誤等能力局限，對(duì)經(jīng)濟(jì)發(fā)展、國(guó)際政治和全球治理等方面帶來(lái)深遠(yuǎn)影響，引發(fā)了全球?qū)Υ竽Ｐ蛷V泛應(yīng)用安全風(fēng)險(xiǎn)的熱議。如何應(yīng)對(duì)人工智能風(fēng)險(xiǎn)并把握人工智能發(fā)展的戰(zhàn)略主動(dòng)，有效保障國(guó)家安全，已成為我國(guó)國(guó)家安全治理的重要議題。
大模型技術(shù)引發(fā)新的安全風(fēng)險(xiǎn)和治理挑戰(zhàn)。隨著技術(shù)的更新迭代，人工智能的應(yīng)用門檻持續(xù)降低，伴隨著誤用濫用情況的增加，經(jīng)濟(jì)社會(huì)領(lǐng)域的多重安全風(fēng)險(xiǎn)也在交織疊加。
根據(jù)相關(guān)報(bào)道，ChatGPT的訓(xùn)練使用了45TB的數(shù)據(jù)、近1萬(wàn)億個(gè)單詞（大概是1351萬(wàn)本牛津詞典的單詞量）。其中很有可能就包括未經(jīng)同意獲取的個(gè)人信息。除前述海量數(shù)據(jù)外，ChatGPT還能夠在與用戶一對(duì)一的對(duì)話互動(dòng)中獲取信息。 在該軟件隱私政策不明了的情況下，個(gè)人信息是否會(huì)被存儲(chǔ)、泄露，甚至被惡意使用都不得而知。 ChatGPT龐大的網(wǎng)絡(luò)語(yǔ)料庫(kù)中或許包含著他人擁有著作權(quán)的作品，故其生成的文本也存在嫁接他人作品的可能性。但它在輸出內(nèi)容時(shí)卻未必能夠識(shí)別，也不一定會(huì)對(duì)用戶進(jìn)行提示。在沒有得到原作者授權(quán)的情況下，ChatGPT產(chǎn)生的文本如果被使用，那么則很有可能是使用者承擔(dān)知識(shí)產(chǎn)權(quán)侵權(quán)的法律風(fēng)險(xiǎn)。 盡管ChatGPT被視為有史以來(lái)*智能的AI，但它畢竟也不是全知全能。比如在一段涉及《紅樓夢(mèng)》的對(duì)話當(dāng)中，ChatGPT就言之鑿鑿地宣稱，賈寶玉是賈元春的兒子。 盡管它在文字組織上的確能夠做到語(yǔ)句通暢，有條有理，但是并不能保障內(nèi)容的真實(shí)準(zhǔn)確。當(dāng)用戶在自己不熟悉的領(lǐng)域向ChatGPT咨詢問(wèn)題時(shí)，就很有可能因?yàn)檫@些看似“高大上”的回復(fù)，錯(cuò)信了有誤甚至是虛假的信息，從而產(chǎn)生決策失誤、傳播虛假信息等諸多法律風(fēng)險(xiǎn)。 在高度智能化、自動(dòng)化的應(yīng)用場(chǎng)景中，ChatGPT在數(shù)據(jù)獲取、處理、結(jié)果展示等環(huán)節(jié)都存在重大的數(shù)據(jù)安全風(fēng)險(xiǎn)。 一是數(shù)據(jù)獲取階段。用戶在使用ChatGPT時(shí)，可能會(huì)輸入自己或他人的信息數(shù)據(jù)，從而導(dǎo)致隱私泄露。如果員工使用ChatGPT輸入各類工作數(shù)據(jù)，就可能導(dǎo)致公司敏感信息泄露。而一旦輸入涉及國(guó)家秘密或敏感內(nèi)容的信息，則無(wú)疑會(huì)導(dǎo)致泄密。 二是數(shù)據(jù)處理階段。ChatGPT會(huì)將用戶輸入、交互的數(shù)據(jù)用于后續(xù)持續(xù)的迭代訓(xùn)練，這就導(dǎo)致這些信息很可能被其他用戶獲取，從而構(gòu)成數(shù)據(jù)非授權(quán)共享，進(jìn)而出現(xiàn)數(shù)據(jù)泄密問(wèn)題。
隨著人工智能的不斷深入
我們?cè)诿鎸?duì)AI帶來(lái)的種種風(fēng)險(xiǎn)時(shí)
又該如何應(yīng)對(duì)呢？
且聽小密為你一一道來(lái)~
第一，建立行業(yè)監(jiān)管制度并開展合規(guī)性評(píng)估審查。建立健全AI服務(wù)行業(yè)監(jiān)督管理相關(guān)制度與標(biāo)準(zhǔn)。包括算法分級(jí)分類管理、算法推薦服務(wù)安全管理、AI 濫用舉報(bào)等，并開展AI應(yīng)用安全合規(guī)性評(píng)估審查與處置，實(shí)現(xiàn)行業(yè)監(jiān)管閉環(huán)。 第二，創(chuàng)新研究應(yīng)用人工智能賦能網(wǎng)絡(luò)安全技術(shù)。一方面，利用AI技術(shù)賦能針對(duì)復(fù)雜網(wǎng)絡(luò)攻擊的防御能力，使用 AI 技術(shù)應(yīng)對(duì)其帶來(lái)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)；另一方面，研究利用AI技術(shù)提升企業(yè)組織在網(wǎng)絡(luò)安全攻擊檢測(cè)、數(shù)據(jù)資產(chǎn)識(shí)別與風(fēng)險(xiǎn)監(jiān)測(cè)、業(yè)務(wù)安全風(fēng)控、不良信息識(shí)別、電信反詐、安全威脅分析、深度偽造識(shí)別等方面的能力。 第三，做好元宇宙等AI融合場(chǎng)景的安全風(fēng)險(xiǎn)梳理與防護(hù)技術(shù)儲(chǔ)備。對(duì)于元宇宙和AI融合關(guān)鍵場(chǎng)景，要抓緊開展安全技術(shù)研究?jī)?chǔ)備，提早防范大規(guī)模人工智能安全事件發(fā)生。
對(duì)于個(gè)人而言，除了避免陷入虛假宣傳，更重要的是面對(duì)花樣翻新的AI詐騙，必須保持防范意識(shí)。 保護(hù)信息，提高警惕。公眾要謹(jǐn)慎提交個(gè)人信息及企業(yè)數(shù)據(jù)，防范AI應(yīng)用個(gè)人隱私竊取、有害言論誤導(dǎo)誘導(dǎo)等風(fēng)險(xiǎn)，防范利用ChatGPT熱點(diǎn)或者仿冒知名AI應(yīng)用收集敏感信息實(shí)施詐騙等行為。 多重驗(yàn)證，確認(rèn)身份。如果有人自稱"熟人""領(lǐng)導(dǎo)"等通過(guò)社交軟件、短信以各種理由誘導(dǎo)匯款，或涉及網(wǎng)絡(luò)轉(zhuǎn)賬交易行為時(shí)，務(wù)必通過(guò)電話、見面等多途徑核驗(yàn)對(duì)方身份，不要未經(jīng)核實(shí)隨意轉(zhuǎn)賬匯款。 如不慎被騙或遇可疑情形，請(qǐng)注意保護(hù)證據(jù)，并立即撥打96110報(bào)警。 隨著AI產(chǎn)品的不斷更新，不少AI軟件推出了公文寫作板塊，人工智能開始悄然影響公文寫作等日常政務(wù)工作，作為機(jī)關(guān)、單位干部職工，如果偷懶用AI代寫，各種文件和數(shù)據(jù)泄露的后果將不堪設(shè)想！ 不僅如此，由于AI寫作內(nèi)容相對(duì)比較籠統(tǒng)，語(yǔ)言僵硬，不貼合實(shí)際情況，使用過(guò)程中還可能涉及信息泄露風(fēng)險(xiǎn)、侵犯知識(shí)產(chǎn)權(quán)等法律問(wèn)題，所以小密建議大家，在工作中盡量不要使用AI寫作，多積累理論知識(shí)和實(shí)踐案例，才能成為真正的“筆桿子”！
來(lái)源：成華密語(yǔ)
咨詢熱線：0351-4073466?
地址：（北區(qū)）山西省太原市迎澤區(qū)新建南路文源巷24號(hào)文源公務(wù)中心5層
? ? ? ? ? ?（南區(qū)）太原市小店區(qū)南中環(huán)街529 號(hào)清控創(chuàng)新基地A座4層
