AI虛構(gòu)“小作文”引發(fā)科大訊飛股價(jià)閃崩

公司回應(yīng)：會(huì)借助法律武器保護(hù)公司利益

5月24日，AI板塊龍頭企業(yè)科大訊飛股價(jià)午后突然閃崩，盤中跌幅一度超過9%。不過很快跌幅大幅收窄，截至收盤，該股報(bào)56.57元/股，下跌4.26%。

【資料圖】

對(duì)于此次股價(jià)異動(dòng)，科大訊飛回應(yīng)華西都市報(bào)、封面新聞?dòng)浾叻Q，股價(jià)下跌系某生成式AI寫作虛假“小作文”導(dǎo)致，謠傳風(fēng)險(xiǎn)為不實(shí)消息，“我們也是在部分微信群和財(cái)經(jīng)平臺(tái)上看到相關(guān)截圖和信息，目前公司法務(wù)部正在處理和調(diào)查，如果存在有人惡意造謠的情況，將采取相關(guān)法律手段。”

公司出現(xiàn)重大風(fēng)險(xiǎn)？科大訊飛回應(yīng)系謠言

從網(wǎng)上流傳的截圖來看，這篇AI生成的“小作文”名為《一篇科大訊飛出現(xiàn)重大風(fēng)險(xiǎn)的警示文》。該文指出，近期，科大訊飛被曝涉嫌大量采集用戶隱私數(shù)據(jù)，并將其用于人工智能研究，這一行為嚴(yán)重侵犯了用戶的隱私權(quán)，引發(fā)了公眾的強(qiáng)烈不滿和抵制，這一事件引發(fā)了廣泛關(guān)注和爭(zhēng)議，給公司的聲譽(yù)和業(yè)務(wù)帶來極大沖擊。這一事件可能對(duì)科大訊飛造成巨大損失，公司可能面臨市場(chǎng)份額下降、銷售額減少以及未來發(fā)展的不確定性等問題。

該消息流出后引發(fā)廣泛關(guān)注。24日收盤后，科大訊飛在互動(dòng)平臺(tái)回應(yīng)稱：“使用大模型編造虛假信息屬于違法行為，將受到法律制裁。對(duì)于惡意抹黑、捏造虛假信息，損害我司名譽(yù)權(quán)的機(jī)構(gòu)或個(gè)人，公司會(huì)借助法律武器保護(hù)公司和投資者利益。”

風(fēng)波還不止于此。有傳聞稱，美國(guó)正在考慮是否將科大訊飛、美亞柏科等列入“實(shí)體名單”，禁止它們使用美國(guó)的組件或軟件。

但從公開信息來看，科大訊飛早在2019年10月就已被列入“實(shí)體清單”，公司此前也表示，業(yè)務(wù)運(yùn)營(yíng)未受到重大影響。

雖然科大訊飛火速辟謠，但當(dāng)日股價(jià)跌幅仍超過4%。對(duì)此，浙江大學(xué)國(guó)際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤和林表示，股價(jià)盤中閃崩并不完全是受虛假AI“小作文”影響，“下跌原因主要有兩個(gè)方面，一方面是AI熱潮回落，另一方面是科大訊飛在AIGC領(lǐng)域可見性不強(qiáng)。”

警惕“AI換臉”新騙局 中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)給出建議

今年以來，ChatGPT和GPT-4等技術(shù)的應(yīng)用，成為信息科技領(lǐng)域的熱點(diǎn)，引起公眾對(duì)AI技術(shù)的廣泛關(guān)注和熱情。在資本市場(chǎng)不斷攪動(dòng)風(fēng)波的同時(shí)，一些“AI換臉”騙局也開始冒頭。

據(jù)平安包頭微信公眾號(hào)消息，近日，包頭警方發(fā)布一起利用人工智能(AI)實(shí)施電信詐騙的典型案例：福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元。

對(duì)于“AI換臉”新型詐騙，盤和林表示，這說明AI的確在改變世界，也說明AI應(yīng)用的確需要法治規(guī)范，不能野蠻發(fā)展。至于如何做到規(guī)范，法治和監(jiān)管技術(shù)缺一不可，應(yīng)要求AI企業(yè)在訓(xùn)練模型時(shí)使用規(guī)范的范例數(shù)據(jù)。

5月24日，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)網(wǎng)站發(fā)布文章稱，要警惕“AI換臉”新騙局。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)指出，伴隨著深度合成技術(shù)的開放開源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進(jìn)行詐騙、誹謗的違法行為屢見不鮮。

對(duì)此，文章提醒廣大公眾需提高警惕，加強(qiáng)防范，并給出了兩點(diǎn)防范建議：一方面要做好個(gè)人信息安全第一責(zé)任人，包括加強(qiáng)個(gè)人信息保護(hù)意識(shí)，防止信息泄露等。另一方面，遠(yuǎn)程轉(zhuǎn)賬務(wù)必多重驗(yàn)證，把好“錢袋子”，在轉(zhuǎn)賬匯款、資金往來這樣的典型場(chǎng)景，要通過回?fù)軐?duì)方手機(jī)號(hào)等額外通信方式核實(shí)確認(rèn)，不要僅憑單一溝通渠道未經(jīng)核實(shí)就直接轉(zhuǎn)賬匯款。

華西都市報(bào)-封面新聞?dòng)浾?熊英英